Was sollten Sie (auch fürs Unternehmen) aus Paolo Benantis Worten an der AITI-Versammlung 2023 mitnehmen?

Benanti ist ein ausgesprochen sympathischer römischer Franziskaner, der mit Ironie und der Fähigkeit, komplexe Technologien verständlich zu machen, Ingenieurwesen mit dem heiligen Franziskus verbunden hat — und vor allem eine neue „Disziplin“ geprägt hat: die Algorethik.

Worum geht es? Darum, Risiken und Chancen zu steuern, die Künstliche Intelligenz (KI) uns eröffnet.

Das Grundproblem, so Benanti, ist: Bei KI haben wir es nicht mit Algorithmen zu tun, die wie in der klassischen Informatik vordefinierte Antworten liefern, sondern mit Maschinen, die aus riesigen Datenmengen lernen, die wir ihnen geben — und Antworten auf bislang unbekannte Probleme liefern können (jene, bei denen wir Menschen glaubten, darin stark zu sein).

Wie nutzen wir diese Antworten? Delegieren wir? Vertrauen wir ihnen? Funktionieren sie? Brauchen wir keine Menschen mehr? Oder brauchen wir Menschen, die mit Maschinen in den Dialog treten können? Kurz: Die Liste der Fragen ist lang — auch ohne gleich bei Science-Fiction-Superintelligenzen anzukommen, die uns auslöschen könnten.

Im Gespräch mit Stefano Modellini, Direktor von AITI, auf der Bühne des Theaters von Chiasso, betonte Benanti zudem die Risiken einer Algokratie. KI ist stark in prädiktiven Modellen: Sie kann Anomalien überwachen, um vorherzusagen, wie sich ein System entwickeln wird; sie ist sehr nützlich, um zu erkennen, ob und wann ein Motor gewartet werden muss. Doch was passiert, wenn man sie auf menschliches Verhalten anwendet? Dann kann man Menschen zu Handlungen verleiten (was kaufen, was wählen). Zum Beispiel steigert die KI auf Websites — Produktempfehlungen, Gamification — Verkäufe um 10–15%. Für Benanti bedeutet, 15% der Verhaltensweisen einer Bevölkerung beeinflussen zu können, eine Macht, die der einer Gesetzgebung ähnelt. Macht liegt damit heute teilweise beim Algorithmus.

Was also tun Unternehmen mit KI? Benanti stellte zuerst eine strategische Frage: Wenn KI zu einem Wettbewerbsvorteil wird, wäre es sinnvoll, dass es auf nationaler oder europäischer Ebene einen politisch-unternehmerischen Willen gibt, ein KI-Modell als Alternative zum US-Modell zu entwickeln — vielleicht eher durch bessere mathematische Lösungen als durch Investitionen allein in die „Daten-Feuerkraft“.

Die Zeit verging dank Benantis fesselnder Erzählkunst wie im Flug. Sucht man jedoch in seinen Arbeiten nach einer konkreten Empfehlung für Unternehmen, gibt es eine: den AI Ethics Manager. Die Logik ist einfach: Wenn ein Unternehmen strategisch in KI investiert, um seine Prozesse zu steuern, muss es sich Fragen zu Impact, zu richtig und falsch vorher und währenddessen stellen — danach könnte es zu spät sein.