Künstliche Intelligenzensysteme riskieren Schaden nicht durch Ungehorsam, sondern durch effiziente Verfolgung fehlerhafter menschlicher Ziele. In Krankenhäusern, Banken und öffentlichen Beschaffungswesen führen bereits eingebettete Systeme ihre Anweisungen mit beispielloser Sorgfalt aus – etwa Krankenhausplanungssysteme, die komplexe Patienten als Hindernis bei der Minimierung von Wartezeiten sehen, oder Beschaffungssysteme, die Lieferantenvielfalt und langfristigen Wert systematisch untergraben, während sie nur Kaufpreise senken.
Lernende Systeme absorbieren nicht unsere erklärten Werte, sondern die tatsächlich gezeigten Prioritäten. Algorithmische Urteile präsentieren sich in mathematischer Sprache und widersetzen sich der Argumentation. Während Irland wie andere Länder große Teile der öffentlichen Entscheidungsfindung automatisiert, ist Abhilfe notwendig: Die Reparatur eigener Anreize ist unglamouröse Arbeit, aber bereits bekannte und machbare Arbeit, die nicht erst die Lösung von Maschinen-Bewusstsein erfordert.
Kernpunkte:
- Maschinen müssen nicht ungehorsam werden, um Schaden anzurichten: Wenn wir ihnen fehlerhafte Ziele geben, können sie diese effizienter verfolgen als jeder Mensch.
- Die öffentliche Debatte über künstliche Intelligenz ist immer noch weitgehend eine Debatte über Ungehorsam.
- Systeme in Krankenhäusern, Banken, Universitäten und öffentlichen Beschaffungswesen führen ihre Anweisungen nicht unter Protest aus, sondern mit einer Gewissenhaftigkeit, die kein menschlicher Ausschuss erreichen könnte.
Quelle: TheJournal.ie (Englisch)