オーストリア、フランス、イタリアの血を引く音楽家の両親のもとにアルゼンチンに生まれる。3歳半のとき母からピアノの手ほどきを受け、母は彼の生涯を通じて最も重要な音楽的影響を与えることになる。
5歳でアルゼンチンでの初めての公開演奏を行った。しかし、7歳の時、重い小児麻痺にかかり、1年以上まったく寝たきりの生活を送ったが、両親はベッドの上でも弾けるようにピアノを改造し、ゲルバー少年は練習を続けることができた。
15歳の時にはロリン・マゼール指揮の下、シューマンの協奏曲を演奏してゲルバーの名は南米中に知れ渡った。19歳でパリに留学。彼の演奏を聴いたマルグリット・ロンは「あなたは私の最後の、しかし最高の生徒になるでしょう」と語った。彼女からロン=ティボー国際コンクールへの出場を勧められたゲルバーは、第3位に入賞したが、彼こそ優勝にふさわしいとする聴衆とマスコミの間で大いに物議を醸した。
ヨーロッパに於いてこれが国際的な活躍のスタートとなり、以後、ゲルバーはリサイタルやオーケストラとの共演で華やかな活動を繰り広げることとなった。これまでに彼は延べ4500回以上の演奏を行なっている。
世界的指揮者アンセルメ、セルが彼の活動を支援し、チェリビダッケ、テンシュテット、マズア、ハイティンク、デュトワ、マゼール、ロストロポーヴィチ、シャイー、エッシェンバッハ、サロネンなど、多くの名指揮者と共演。また、ベルリン・フィル、パリ管、ロンドン響、ニューヨーク･フィル、フィラデルフィア管、Ｎ響などの世界的なオーケストラに出演を重ねている。
レコーディングに於いても世界的に高い評価を得ており、ACCディスク大賞を２回とADFディスク大賞を受賞している。
偉大なピアニストアルトゥール・ルービンシュタインはゲルバーを「彼の世代で最も偉大なピアニストの一人」と称えた。また、フランスのディアパソン誌は、ゲルバーを20世紀の最も偉大な百人のピアニストの一人に選んでいる。
日本には1968年以来たびたび来日しており、2011年には70歳記念ツアーを、2018年には来日50周年記念ツアーを開催し、喝采を浴びた。
