Скончался де Рибас 14 декабря 1800 года и похоронен на католическом кладбище Санкт-Петербурга. Надпись на могиле гласит по-русски: «Иосиф де Рибас, адмирал, российских орденов Александра Невского, Георгия Победоносца, Святого Владимира 2-й степени кавалер и ордена Св. Иоанна Иерусалимского, командор, 1750 –1800». Но главная память о де Рибасе – основание Черноморского гребного флота и города Одессы. И сейчас Дерибасовская улица – символ Одессы, здесь стоит памятник выдающемуся архитектору – И.М.Дерибасу.

При последней встрече с навестившими его незадолго до смерти одесситами, больной Осип Михайлович сказал: «Из содеянного мною в этой жизни иных деяний почитаю важным основание порта и города, которому волею мудрой государыни дано чудное имя – Одесса – торговый путь, соединяющий народы обменом произведений рук их и разума… Город, который закладывается нашими трудами, имеет большую будущность, он должен быть крупным морским портом России, связывающим Отечество наше обменом предприятий промышленности с Европой, и не только с Европой,... таково, господа, назначение новоявленного края, коему суждено стать жемчужиной Российской империи».