Осип Самойлович Бернштейн родился в Житомире в благополучной еврейской семье. В начале прошлого века он отправился на учебу в Германию и освоил профессию адвоката. Одновременно с учебой Бернштейн продолжал начавшуюся еще в России шахматную карьеру, успешно выступал в турнирах. Шахматист сильный и самобытный, он всю жизнь считался любителем. Действительно, он был очень успешным адвокатом, но и его шахматная карьера заслуживает внимания: она стала рекордной по продолжительности.  Осип Самойлович Бернштейн  участвовал в различных соревнованиях в течение  60 (!) лет.

Лучшие результаты он показал в первом десятилетии  20 века. В 1903 году был вторым во Всероссийском турнире в Киеве. В 1906 году вместе со Шлехтером выиграл турнир в Стокгольме, а в 1907 году вместе с Рубинштейном первенствовал в Остенде. После обучения Бернштейн вернулся на родину.

В 1918 году в Одессе он едва не погиб, а в 1920-м сумел эмигрировать из России. В Париже Бернштейн на долгое время отошел от шахмат, но в начале 30-х годов  вернулся и сыграл в нескольких турнирах, заняв, частности, 2-е место в Понте и поделив 6-7 места в Цюрихе, где первенствовал Алехин. С Алехиным они были хорошо знакомы, а в 1933 году сыграли вничью (2:2) небольшой матч из четырех партий. «Самобытный талант… обладает редким даром находить оригинальные идеи», - писал о Бернштейне Эмануил Ласкер.

После турнира в Цюрихе Бернштейн вновь прекратил турнирные выступления, а снова заиграл уже после окончания Второй мировой войны. В 1946 году он занял 2-е место на турнире в Лондоне, а в 1954-м в Монтевидео разделил 2-3 места с Найдорфом, хотя ему было уже 74 года. В этом возрасте он стал участником Всемирной шахматной Олимпиады, на которой возглавлял команду Франции. Любопытно, что на Олимпиаде 1954 года он сыграл против сборной СССР.

Умер Осип Бернштейн в ноябре 1962 года близ Парижа.