W 1870 roku osiadł w Warszawie, dokąd wcześniej przyjeżdżał często z koncertami. W 1871 był jednym z członków-założycieli Warszawskiego Towarzystwa Muzycznego. W tym samym roku dał trzeci i ostatni koncert w Krakowie; w 1872 wystąpił w Dreźnie a w 1875 zagrał jedyny recital we Wrocławiu. Józef Wieniawski rozwinął w Warszawie szeroką i intensywną działalność, zwłaszcza kiedy objął w 1875 r. po Aleksandrze Zarzyckim funkcję dyrektora Towarzystwa Muzycznego. Urządzał koncerty symfoniczne i zapraszał do współpracy najwybitniejszych solistów zagranicznych. Wybitnie dbał o jakość koncertów, zarówno kameralnych jak i symfonicznych. Po trzech latach działalności zrezygnował z ubiegania się o reelekcję i wyjechał do stolicy Francji. W 1878 roku objął stanowisko nauczyciela gry fortepianowej w Konserwatorium w Brukseli, gdzie z sukcesem organizował koncerty kameralne w Palais des Beaux Arts (wspólnie z Jenő Hubayem) oraz w Salle de la Grande Harmonie (we współpracy z Eugènem Ysaÿe’m). W 1889 roku ożenił się z Melanią Hilsheimer, córką drezdeńskiego bankiera, z którą miał syna i dwie córki, Elżbietę – skrzypaczkę i wiolonczelistkę, oraz Marcelę. Od 1900 roku dawał własne Séances de Piano. W 1896 roku za całokształt pracy otrzymał godność członka honorowego WTM. Jeden z ostatnich koncertów dał Wieniawski w Lipsku w 1910 roku.

Józef Wieniawski, obdarzony był wielkim talentem pianistycznym. Ale słynął także z niesamowitej pracowitości i perfekcjonizmu. Krążą o nim nieliczne anegdoty np. – o tym, że trudne fragmenty powtarzał po kilkadziesiąt razy, odliczając każde powtórzenie zrzuceniem na podłogę kawałka papieru. … Pewnego razu Ludwik Koehler, niemiecki pianista, teoretyk i pedagog, postanowił odwiedzić w hotelu, bawiącego właśnie w Berlinie swego dawnego przyjaciela, Józefa Wieniawskiego. Idąc korytarzem usłyszał dźwięki fortepianu. Podszedł więc do drzwi pokoju i zatrzymał się w oczekiwaniu aż umilknie muzyka, aby doń wejść. Ponieważ grający nie przerywał pracy, powtarzając dwudziesty raz ten sam fragment, postanowił wejść niezauważony. To co zobaczył zdumiało go:  podłoga wokół fortepianu usiana była skrawkami  papieru, którymi pianista odliczał ilość przegrań. Wreszcie Wieniawski dostrzegł gościa i powiedział: „Miało być 50 razy, ale skoroś przyszedł, to już dosyć!”…

Wieniawski miał też wg opowieści niezwykłą pamięć. Po jednorazowym usłyszeniu nieznanego utworu potrafił go zagrać.  …Pewnego razu bawił na spotkaniu towarzyskim u Rossiniego. Gospodarza poproszono o zagranie jakiegoś swojego utworu. Rossini sięgnął d szuflady, wyjął nowy manuskrypt i zasłaniając nuty wykonał kompozycję na fortepianie. Był to „Chloroform h-moll”, opatrzony przez Rossiniego takim tytułem, ponieważ miał usypiać słuchaczy. Pod koniec spotkania Wieniawski podszedł do fortepianu i oświadczył zgromadzonym, że teraz on chciałby przedstawić swoją kompozycję. Ku ogromnemu osłupieniu słuchaczy, zabrzmiał ów „Chloroform”! Kiedy indziej zadziwił wszystkich tym, że w Warszawie Sarasatemu, wykonującemu „Koncert skrzypcowy e-moll” Mendelssohna akompaniował z pamięci. Znany też był z tego, że a prima vista potrafił dany utwór przetransponować do dowolnej tonacji.

W swojej epoce, Józef Wieniawski należał do nielicznych koncertujących muzyków układających czasem programy recitali z utworów jednego autora. Jego ulubionym kompozytorem  był Chopin. Józef Wieniawski miał też duszę muzycznego wynalazcy. Wymyślił fortepian o dwóch klawiaturach ustawionych nad sobą, z tym że w jednej z nich klawisze zamontowane byłyby od końca. Dzięki temu dłonie pianisty mogłyby grać „symetrycznie”, równo rozkładając siłę uderzenia. Projekt zaprezentowano nawet na wystawie światowej w Paryżu w 1878 roku, ale Wieniawski nie doszedł do porozumienia z producentem – braćmi Mangeot.

W związku z tym Wieniawski nie demonstrował samodzielnie fortepianu na wystawie. Następnie fortepianem tym zainteresował się i grał na nim Juliusz Zarębski, ale w swoim entuzjazmie do „Piano Wieniawski” pozostał osamotniony. Obecnie instrument taki można oglądać w Muzeum Instrumentów Muzycznych w Brukseli.

(foto – własność Muzeum Instrumentów Muzycznych w Brukseli)

Twórczość kompozytorska Józefa Wieniawskiego obejmuje muzykę fortepianową (m.in. są to romanze, impromptus, contemplations, idylle, nokturny, walce, berceuses, mazurki, polonezy, etiudy koncertowe i dydaktyczne), kameralną (duety, sonaty, trio i kwartet), symfoniczną (uwertury orkiestrowe, symfonia, suita, fantazja i koncert fortepianowy) oraz pieśni solowe. Drukiem ukazało się 51 jego kompozycji. Józef Wieniawski zdążył też za swojego życia uwiecznić swoją sztukę na kilkunastu rolkach pianolowych, które do tej pory niestety jednak nie wypłynęły na światło dzienne

Józef Wieniawski przeżywszy 75 lat, zmarł w Brukseli i  został pochowany na cmentarzu Ixelles.