Der als „Pate der künstlichen Intelligenz“ bekannte Geoffrey Hinton verlässt Google und bedauert seine Lebensarbeit. Hinton leistete in den 1970er Jahren einen wichtigen Beitrag zur KI-Forschung mit seiner Arbeit an neuronalen Netzen. In mehreren Interviews sagte er diese Woche, dass große Technologieunternehmen zu schnell KI für die Öffentlichkeit bereitstellen. Ein Teil des Problems sei, dass KI menschenähnliche Fähigkeiten schneller erreiche als von Experten prognostiziert. „Das ist beängstigend“, sagte er der New York Times.
Bedenken kommen zu spät
Hinton’s Bedenken sind sicherlich nachvollziehbar, aber sie wären effektiver gewesen, wenn sie einige Jahre früher gekommen wären, als andere Forscher, die keine Rente hatten, bereits Alarm schlugen. Hinton versuchte in einem Tweet zu klären, wie die New York Times seine Motivationen charakterisierte, besorgt darüber, dass der Artikel suggerierte, er habe Google verlassen, um es zu kritisieren. „Tatsächlich bin ich gegangen, um über die Gefahren von KI zu sprechen, ohne zu berücksichtigen, wie sich dies auf Google auswirkt“, sagte er. „Google hat sehr verantwortungsbewusst gehandelt.“
Angst vor Karriereeinbußen
Hinton’s Prominenz in der Branche hat ihn möglicherweise vor Gegenwind geschützt, aber der Vorfall zeigt ein chronisches Problem in der KI-Forschung: Große Technologieunternehmen haben eine derartige Kontrolle über die KI-Forschung, dass viele ihrer Wissenschaftler Angst haben, ihre Bedenken zu äußern, aus Angst um ihre Karriereaussichten. Meredith Whittaker, ehemalige Forschungsleiterin bei Google, musste 2018 Tausende von Dollar für Anwälte ausgeben, nachdem sie den Protest von 20.000 Google-Mitarbeitern gegen die Verträge des Unternehmens mit dem US-Verteidigungsministerium organisiert hatte. „Es ist wirklich, wirklich beängstigend, sich gegen Google zu stellen“, sagt sie. Whittaker, die jetzt Präsidentin der verschlüsselten Messaging-App Signal ist, trat schließlich mit einer öffentlichen Warnung über die Ausrichtung des Unternehmens zurück. Zwei Jahre später wurden die Google-KI-Forscher Timnit Gebru und Margaret Mitchell entlassen, nachdem sie ein Forschungspapier veröffentlicht hatten, das die Risiken großer Sprachmodelle aufzeigte, derzeit im Mittelpunkt der Bedenken über Chatbots und generative KI. Sie wiesen auf Probleme wie rassische und geschlechtsspezifische Vorurteile, Undurchsichtigkeit und Umweltkosten hin. Whittaker ärgert sich darüber, dass Hinton nun Gegenstand von Lobeshymnen über seine Beiträge zur KI ist, nachdem andere viel größere Risiken eingegangen sind, um für das einzustehen, woran sie glaubten, als sie noch beschäftigt waren.