Campbell Brown warnt: KI wiederholt die Fehler der Sozialen Medien.
Die ehemalige Leiterin der globalen Medienpartnerschaften bei Meta kritisiert, dass KI-Modelle auf hochriskanten Themen wie Geopolitik, psychische Gesundheit, Finanzen und Personalwesen häufig inkonsistente, voreingenommene oder zuversichtlich falsche Antworten liefern.
Brown sieht eine klare Diskrepanz: Während im Silicon Valley über technische Fortschritte gesprochen wird, erhalten Verbraucher oft unzuverlässige Auskünfte von Chatbots. Dies führe zu Vertrauensverlust.
Sie bemängelt, dass KI-Unternehmen ihre eigenen Modelle bewerten – ein Ansatz, den sie als nicht nachhaltig einstuft. Stattdessen fordert sie unabhängige Evaluierungen, vergleichbar mit regulierten Branchen wie dem Bank- oder Pharmawesen.
Zudem kritisiert Brown den unkritischen Umgang besonders jüngerer Nutzer mit KI-Antworten sowie fehlende Transparenz bei der Quellenauswahl von Large Language Models.
Lösungsansatz: Forum AI
Im Oktober 2025 gründete Campbell Brown gemeinsam mit dem ehemaligen Meta-Mitarbeiter Robbie Goldfarb das Startup Forum AI. Das Unternehmen erhielt eine Startfinanzierung von 3 Millionen US-Dollar.
Forum AI hat die Mission, KI-Outputs auf Voreingenommenheit zu prüfen und Urteile zu hochriskanten Themen zu bewerten. Ziel ist es, dass Modelle menschliches Expertenurteil und nicht nur statistische Muster widerspiegeln.
Das Unternehmen arbeitet mit einem Netzwerk menschlicher Experten aus Medien, Politik, Gesundheitswesen und Think Tanks zusammen. Dazu gehören Fareed Zakaria, Niall Ferguson, Kevin McCarthy, Larry Summers sowie Experten der Cleveland Clinic, Mount Sinai, des Atlantic Council und des Manhattan Institute.
Diese Experten definieren Bewertungsmaßstäbe. Anschließend werden KI-Richter trainiert, um in großem Maßstab Modelle zu bewerten und eine hohe Übereinstimmung mit den menschlichen Urteilen zu erreichen.
Forum AI kooperiert hinter den Kulissen mit KI-Unternehmen, um authentisches Feedback zu geben. Das erklärte Ziel ist die Steigerung von Qualität, Tiefe, Klarheit, Genauigkeit, Nuance und Ausgewogenheit der KI-generierten Informationen.
Quelle: TechCrunch AI
FAQ
Wer ist Campbell Brown? Campbell Brown ist eine ehemalige CNN- und NBC-Journalistin. Von 2017 bis 2023 leitete sie bei Meta die globalen Medienpartnerschaften und arbeitete später als Senior Advisor beim KI-Startup TollBit.
Was ist das Ziel von Forum AI? Forum AI soll KI-Modelle unabhängig auf Voreingenommenheit und Qualität bei sensiblen Themen prüfen und so das Vertrauen der Nutzer in KI-Antworten stärken.
Warum fordert Brown unabhängige KI-Bewertungen? Brown sieht die Selbstbewertung der KI-Unternehmen als nicht nachhaltig an. Sie vergleicht die Situation mit regulierten Branchen, die externe Prüfungen vorschreiben.