Dario Amodei, geboren 1983 in San Francisco, ist Mitgründer und Vorstandsvorsitzender des KI-Unternehmens Anthropic. Sein Weg führt über die Physik: Studium in Stanford, Promotion in Biophysik in Princeton, danach Forschung zu neuronalen Netzen bei Baidu und Google Brain.
- Dario Amodei
Mitgründer und Vorstandsvorsitzender von Anthropic, zuvor Forschungsleiter bei OpenAI.
Beispiel: „Dario Amodei hat Anthropic 2021 mit seiner Schwester Daniela und fünf weiteren Leuten aus demselben Haus gegründet.“Bei OpenAI ab 2016 als Leiter der Forschung; dort Arbeit an den Modellen der GPT-Reihe und am Lernen aus menschlichen Rückmeldungen, siehe RLHF.
Die Gründung von Anthropic 2021 geht auf Meinungsverschiedenheiten über Sicherheit und Ausrichtung zurück; das ist die Linie, die das Unternehmen bis heute nach außen vertritt.
Wofür er inhaltlich eintritt
Für die Verbindung von Entwicklung und Sicherheitsforschung in einem Haus. Die Grundhaltung lautet, dass starke Modelle ohnehin entstehen und es deshalb besser sei, sie dort zu bauen, wo auch an ihrer Beherrschbarkeit gearbeitet wird. Daraus folgt die ausführliche Veröffentlichung eigener Grundsätze, die für die Branche ungewöhnlich ist.
Was er öffentlich geschrieben hat
Zwei längere Essays, die in der Debatte oft zitiert werden: einer von 2024 über den möglichen Nutzen starker KI, einer von 2026 über die Risiken. Beide sind zugänglich geschrieben und eignen sich als Einstieg in die Argumente, unabhängig davon, ob man ihnen folgt.
Was an seinen Aussagen auffällt
Die Deutlichkeit der Zahlen. Er nennt öffentlich eine Wahrscheinlichkeit im Bereich von zehn bis fünfundzwanzig Prozent für schwere Schäden durch KI und tritt zugleich dafür ein, die Entwicklung nicht abzubrechen. Diese Verbindung aus hohem Risiko und Weitermachen ist der Punkt, an dem sich die Debatte an ihm entzündet.
Was die Gründung von Anthropic ausgelöst hat
Eine zweite Linie in der Branche. Mit dem Weggang mehrerer Forscher von OpenAI im Jahr 2021 entstand ein Haus, das Sicherheitsarbeit nicht als Abteilung neben der Entwicklung führt, sondern als deren Teil beschreibt. Daran hat sich eine eigene Forschungstradition angeschlossen, von der Arbeit an der Erklärbarkeit bis zu veröffentlichten Grundsätzen für das Verhalten von Modellen, siehe AI Alignment.