Peter Michael Falk kam am 16. September 1927 in New York, Manhattan, zur Welt. Mutter Madeline Falk hatte russische Vorfahren, Vater Michael polnische. Peter Falk wird häufig für einen Italo-Amerikaner gehalten – vermutlich , weil er als Inspektor Columbo immer wieder auf seine italienische Abstammung verweist, in einigen Columbo-Folgen sogar ein paar Sätze Italienisch spricht. Die Wurzeln von Peter Falk liegen aber im Osten Europas.

Mit drei Jahren wurde in Peter Falks rechtem Auge ein Tumor entdeckt . Das Auge wurde entfernt und Falk bekam ein Glasauge. Anfangs litt Peters Selbstvertrauen sehr unter diesem Handicap. Später sollte dieses Glasauge und die spezielle Art, damit zu schauen, Peters besonderes Markenzeichen werden: der leicht von unten nach oben gerichtete Blick , das rechte Auge immer ein wenig zugekniffener als das Linke .
In der High School erlangte er dann sein Selbstvertrauen zurück . Er realisierte, dass keiner sich darum kümmert, ob man ein oder zwei Augen hat. Die Klassenkameraden waren darüber hinaus schwer beeindruckt, wenn Peter sein Glasauge zwischendurch zum Spaß herausnahm.

1945 verließ Peter die High School . Auf den Gedanken, professioneller Schauspieler zu werden, wäre er zu jener Zeit niemals gekommen. Im Juli schrieb er sich ins New Yorker Hamilton College ein, welches er aber schon nach einem Monat wieder verließ.

Sein nächstes Ziel war die Marine, bei der er zuerst einen Eignungstest zu bestehen hatte. Einen Helfer der Musterungskommission konnte er noch mit einfachen Mitteln täuschen: Er verdeckte zweimal das falsche Auge hintereinander und las die Tabelle jedes Mal mit dem richtigen Auge. „ Ich glaubte schon, sie nehmen mich, als plötzlich der Doktor hereinkam und zu ihm sagte: , Du Dummkopf, siehst du nicht, dass er dich betrügt? '“ Die Marine nahm ihn nicht, auch nicht die Armee oder die Luftwaffe. So ging Peter zur Handelsmarine. „Die machten sich nichts draus, ob du blind bist oder nicht.“
18 Monate verbrachte er bei der Handelsmarine - als Koch.

Danach ging er wieder zurück ans Hamilton College . Nach zwei Jahren wechselte er vom College zur New School For Social Research (Sozialforschung). Dort machte er 1951 den Abschluss zum „ Bachelor of Arts“ in Literatur- und Politikwissenschaft. Peter Falk machte dann noch einen weiteren Abschluss im verwaltungswissenschaftlichen Bereich als Master of Public Administration.

Schließlich wollte Falk Geheimagent beim CIA werden, doch eine Bewerbung wurde nach der Lektüre seines Lebenslaufes lächelnd abgewiesen.