Родился в 1889 году в в Эривани.

В 8-летнем возрасте его отправляют в Эриванскую учительскую семинарию, которая, как и школы других армянских церковных епархий, несмотря на свое духовное назначение, была, по существу, очагом светского среднего образования.

Из-за тяжелого материального положения семьи осенью 1904 года ему пришлось оставить учение и уехать на заработки в Тифлис.

В 1908 – 1909 годах учился в Тифлисском художественном училище. В тифлисской Рисовальной школе учителем Ованнеса был Егише Татевосян - выдающий живописец, сложившийся как художник под непосредственным воздействием творчества и самой личности В.Поленова. Егише Татевосян и Константин Коровин, которым более всего обязан Тер-Татевосян своим творческим самоопределением и дивным взлетом, были любимыми учениками Поленова.

Профессор и заведующий кафедрой живописи Ташкентского театрально-художественного института.

Учредитель общества "Ассоциация работников изобразительного искусства" (АРИЗО).

Член Товарищества передвижных выставок, член РАБИСа и правления Союза художников Узбекистана, народный художник Узбекской ССР.