Народився у місті Ґеттінґені у сім'ї богослова Бернгарда Вайса[ru]. Акторську кар'єру почав у 1927 році у Державному театрі в Берліні де працював до 1932. З 1935 року почав зніматися у кіно, граючи переважно другорядні комедійні та гротескні ролі.
На початку 1940-х працював асисентом режисера. Режисерським дебютом Вайса стала комедійна стрічка «Пунш з паленого цукру», посталена у 1944 році за повістю Генріха Шпьорля з зіркою німецького кіно 1930-40 рр. Гайнцом Рюманом у головній ролі.
Вайсс був першим німецьким режисером, який отримав дозвіл на подальшу роботу у кіно в післявоєнній Німеччині. Ставив різнопланові фільми, від романтичного «Тиша у лісі» (Das Schweigen im Walde, 1955), до фарсового «Троє у човні» (Drei Mann in einem Boot, 1961).