Demokratische Einflüsse auf KI: Einblicke und Pläne von OpenAI

Künstliche Intelligenz (KI) entwickelt sich rasant weiter und wird zunehmend in verschiedenen Bereichen eingesetzt. Um die Modelle besser auf die Werte der Menschheit auszurichten, ist es unerlässlich, die Öffentlichkeit in die Entscheidungsfindung über das Verhalten von KI einzubeziehen. OpenAI hat in diesem Kontext das „Democratic Inputs to AI“-Stipendienprogramm ins Leben gerufen, um demokratische Methoden zur Regelbestimmung von KI-Systemen zu erforschen und zu entwickeln.

Innovationsansätze der Stipendiaten

Fast 1.000 Bewerbungen aus 113 Ländern wurden für das Programm eingereicht. Zehn Teams wurden schließlich ausgewählt, die eine Vielfalt an Hintergründen und Ansätzen repräsentieren. Die Projekte der Teams umfassten verschiedene Aspekte der partizipativen Einbindung, von neuartigen Video-Deliberationsinterfaces über Plattformen für die crowdsourcingbasierte Auditierung von KI-Modellen bis hin zu mathematischen Formulierungen von Repräsentationsgarantien.

Herausforderungen und Unterstützung

Die Teams stießen auf Herausforderungen wie die Rekrutierung vielfältiger Teilnehmer, die Erzeugung eines kohärenten Outputs, der diverse Standpunkte repräsentiert, und die Gestaltung transparenter Prozesse. OpenAI unterstützte die Teams mit praktischer Hilfe und Leitfäden und erleichterte die Zusammenarbeit durch strukturierte Dokumentationsmethoden.

Schlüsselerkenntnisse aus dem Programm

• Öffentliche Meinungen ändern sich häufig, was bedeutende Auswirkungen darauf hat, wie oft Prozesse zur Sammlung von Inputs stattfinden sollten.
• Das Überbrücken der digitalen Kluft bleibt schwierig und kann die Ergebnisse verzerren.
• Das Finden von Übereinkünften innerhalb polarisierter Gruppen kann herausfordernd sein.
• Es besteht eine Spannung zwischen dem Erreichen von Konsens und der angemessenen Repräsentation verschiedener Meinungen.
• Teilnehmer äußerten sowohl Hoffnungen als auch Ängste in Bezug auf die Zukunft der KI-Governance.

Implementierungspläne von OpenAI

OpenAI plant, ein System zu entwickeln, das öffentliche Inputs sammelt und in ihre Systeme integriert. Dies beinhaltet die Zusammenarbeit mit externen Beratern und Stipendiatenteams, um Prototypen in die Steuerung ihrer Modelle einzubinden.

Fazit

Das „Democratic Inputs to AI“-Programm von OpenAI hat wichtige Erkenntnisse und Innovationen im Bereich der demokratischen Technologie hervorgebracht. Die Herausforderungen und Lernprozesse, die während des Programms identifiziert wurden, bieten wertvolle Einblicke in die Gestaltung zukünftiger KI-Systeme, die demokratische Werte und die Meinung der Öffentlichkeit berücksichtigen. OpenAI setzt sich dafür ein, diese Erkenntnisse in ihre zukünftige Arbeit zu integrieren und KI-Modelle zu entwickeln, die sowohl leistungsfähig als auch im Einklang mit den Werten und Ansichten der Öffentlichkeit sind.

Quelle: OpenAI