Christian Fehrlin über künstliche Intelligenz: «Es wird bald nicht mehr zu verantworten sein, Menschen ans Steuer zu setzen»

Er ist Experte für künstliche Intelligenz – kurz KI – und Inhaber einer Software-Entwicklungsfirma. Doch beim Zoom-Interview dauert es zehn Minuten, bis Christian Fehrlin feststellt, dass er vergessen hat, seine Kamera einzuschalten. Er nimmt es mit Humor – und man selbst als Zeichen dafür, dass weder Fehrlin noch sein Arbeitsalltag bereits vollständig robotergesteuert funktioniert. Beides wirkt sich sehr entspannend auf den weiteren Gesprächsverlauf aus.

Wir Laien haben ja bekanntlich eine eher diffuse Idee von künstlicher Intelligenz. Meist ist diese von Comics oder Sciencefiction-Filmen geprägt, in denen Bordcomputer plötzlich ihre dunkle «Persönlichkeit» offenbaren wie in «2001 – Odysee im Weltraum» oder wo uns irgendwelche süss-smarte Androiden ans Herz wachsen wie bei «Star Trek».

Im echten Leben hingegen begegnet uns KI (noch) relativ nüchtern und abstrakt; als Gesichtserkennungsfunktion oder Siri. Doch bereits jetzt lässt sich erahnen, in welche Richtung es in den nächsten Jahren weitergehen dürfte. Und die Vorstellung, dass Computer und mit ihnen die künstliche Intelligenz immer weitreichender und auch unmittelbarer in unsere Lebenswelten eingreifen, ist nicht unbedingt nur beruhigend.

Christian Fehrlin weiss das alles. Und er ist sich der Verantwortung seiner eigenen Zunft durchaus bewusst. Mit seiner Winterthurer Firma Deep Impact ist er im Bereich der Gesichtserkennung tätig – ein ebenfalls heikles Terrain. Denn so bequem es ist, den Kaffee per Gesichtsscan zu bezahlen oder das Handy freizuschalten, so obskur wird es, wenn totalitäre Regimes damit ihren digitalen Überwachungsapparat aufbauen.

China beispielsweise kontrolliert seine Bürger:innen bereits via 350 Millionen Überwachungskameras, die inzwischen sogar in der Lage sind, Emotionen zu erkennen.

annabelle: Christian Fehrlin, Hand aufs Herz – raten Sie Ihren Kindern dazu, die Gesichtserkennung auf ihrem Smartphone auszuschalten, oder finden Sie diese unbedenklich?
Christian Fehrlin: Ganz klar unbedenklich. Der Einsatz von Technologie ist in Staaten mit einer funktionierenden Gewaltentrennung und vernünftigen Regulierungen immer unbedenklich. Das Problem sind Staaten wie China, die die Technologie nutzen, um Bürger:innen stark zu überwachen. In diesen Ländern würde ich den Kindern dann auch abraten, Gesichtserkennung zu nutzen.

Wie sieht es mit dem Einsatz selbstfahrender Autos aus?
Für mich das Grösste! Im Einsatz sind sie ja schon. In Arizona kann man bereits selbstfahrende Taxis bestellen und in Kalifornien hat die Google-Tochter Waymo ebenfalls selbstfahrende Autos im Einsatz. Damit wären völlig neue Verkehrskonzepte möglich. Der Staat könnte den Besitz von Autos verbieten, sämtliche Busse und Züge entsorgen und stattdessen drei Millionen selbstfahrende Elektro-Fahrzeuge einsetzen: ein individualisierter ÖV, in dem ich per App mein Ziel mit Wunschzeit eingebe, und die KI übernimmt die Organisation der Reise.

Wie sieht denn die rechtliche Lage aus? Wer zahlt, wenn es einen Unfall gibt?
Verantwortlich ist bislang immer noch die Person am Steuer und das wird auch noch eine Weile so bleiben. Es stellt sich aber künftig schon die Frage der Produkthaftung, und ich gehe davon aus, dass es entsprechende Gesetzesänderungen geben wird. Denn wenn es kein Steuerrad mehr im Fahrzeug hat, existieren auch keine Fahrer:innen mehr. Ich bin sicher, dass der Staat irgendwann das Autofahren verbieten wird. Versicherungstechnisch ist das einfach viel zu gefährlich.

Inwiefern?
Autofahrer:innen verursachen im Schnitt alle neunzig Millionen Kilometer einen fatalen Unfall, das selbstfahrende Auto dagegen erst auf 130 Millionen Kilometern. Und die Lernkurve geht steil nach oben. Es wird also bald schlicht nicht mehr zu verantworten sein, Menschen ans Steuer zu setzen.

Wann werden in der Schweiz die ersten KI-Fahrten stattfinden?
Ich würde behaupten, dass unsere Kinder zur letzten Generation gehören, die noch Auto fahren lernen muss. Schon heute kann ein Tesla vollkommen autonom auf der Autobahn fahren, die Spur wechseln und an der Ausfahrt abzweigen. Europa aber sperrt sich so lang, bis die eigenen Automobilhersteller nachgezogen haben. Mercedes, BMW und Audi brauchen wohl noch drei, vier Jahre, dann wird sich auch hierzulande etwas ändern.

Auch in anderen Bereichen dürfte der Mensch in Zukunft zunehmend überflüssig werden, richtig?
Ja. Davon werden nebst Low-Level-Berufen wie Taxi- und Lastwagenfahrer:in, Briefträger:in und Übersetzer:in auch KV-Jobs oder Anwält:innen betroffen sein. Zumindest die Basis von Letzteren, die sich etwa um Vertragsanalysen und Standardarbeiten kümmert, wird nicht mehr gebraucht werden. Es gibt da ein Experiment, bei dem fünf Geheimhaltungsvereinbarungen mit dreissig rechtlichen Problemen Anwält:innen und KI zur Analyse vorgelegt wurden. Die Jurist:innen benötigten 92 Minuten bei einer Genauigkeit von 85 Prozent. KI war in 26 Sekunden fertig – mit einer Genauigkeit von 94 Prozent!

Ist die Maschine schlauer als der Mensch?
Das ist die grosse Frage. Wir begreifen künstliche Intelligenz als einen Zweig der Informatik, der sich mit der Automatisierung von intelligentem Verhalten befasst. Noch streiten wir aber darüber, was genau eigentlich Intelligenz ist. Vermutlich wird es irgendwann möglich sein, dass die Maschine Kreativität, eigene Logikstränge und Selbstbewusstsein aufbauen kann, aber das wird noch eine Weile dauern. Muster zu interpretieren klappt dagegen schon sehr gut. Und das ist offen gestanden auch viel gefährlicher als die reine Analyse.

Inwiefern?
Menschliche Muster zu adaptieren, heisst auch, sie manipulieren zu können. Stellen Sie sich vor, Sie sitzen im Kino. Sie wissen, dass die vorgespielten Gefühle ein Fake sind – und dennoch fühlen Sie als empathisches Wesen mit der Schauspieler:in mit. Wer den kleinen Roboterhund Aibo erlebt hat, weiss, dass sein Winseln bei uns echtes Mitleid erzeugt hat. Ich denke, dass die Maschine künftig immer mehr zu unserer täglichen Begleiterin wird, die uns fröhlich manipuliert und sicherstellt, dass wir gut drauf sind. Sprachassistent:innen werden es sein, die uns täglich gut zureden, uns an Trainingseinheiten erinnern und in Krisen die richtigen Worte finden. Später ist es denkbar, dass Roboter das alles übernehmen werden.

Und zack, tauchen vor meinem geistigen Auge Bilder vom bösen Hausrobo auf, der mich nachts um die Ecke bringt.
Da können wir uns entspannen, zumindest, solang wir funktionierende Demokratien haben. Wir haben Gesetze, die Fragen nach Meinungsfreiheit, Datenschutz und Persönlichkeitsrechten sichern, und Regierungen, die Kontrollmechanismen unterliegen und keine meuchelnden Roboter losschicken Unsere Ängste liegen vor allem darin begründet, manipuliert, ausgeliefert und überwacht zu werden. Dank KI können wir immer grösser werdende Datenmengen auswerten und entsprechende Rückschlüsse ziehen. Das geht dann schon irgendwann in die «Minority Report»-Richtung, wo Computersysteme unsere Handlungsweisen voraussagen können – das ist so faszinierend wie gruselig. Insgesamt heisst es: wachsam bleiben. Die Erfahrung zeigt ja in der Tat, dass der Mensch Macht ausübt, wenn er entsprechende Instrumente in die Hand bekommt.

Nicht umsonst gibt es Professuren in angewandter Ethik, die sich mit dem Einsatz von KI befassen – überbewertet oder dringend notwendig?
Extrem wichtig. KI braucht staatliche Regulierungen, klar abgesteckte Einsatzgebiete und definierte Grenzen. Zumal die Lernkurve enorm ist. Nehmen wir Boston Dynamics, das als eines der am weitesten fortgeschrittenen Robotik-Unternehmen der Welt gilt. Seine Spezialität sind autonome Laufroboter, die viele militärische Aufgaben übernehmen. In puncto Bombenentschärfung etwa sind sie top. Allerdings ist das US-Unternehmen damit auch stark finanziell abhängig von der DARPA, dem Forschungszweig des amerikanischen Militärs. Die sehen entsprechend zu, dass die Roboter vor allem waffentauglich gemacht werden – daran ändern auch die ganzen lancierten Werbe-Videos von lustig tanzenden und sportelnden Robotern nichts.

Die Einsatzmöglichkeiten im militärischen Sektor sind enorm: Nebst Aufklärung und Überwachung werden auch die autonomen Waffensysteme perfektioniert.
Bei Drohneneinsätzen der USA ist es ja bereits so, dass aus einer Zentrale gesteuert wird, wenn in Somalia eine Bombe abgeworfen wird. Gerade im Bereich der Gesichtserkennung machen wir rasende Fortschritte, und natürlich impliziert auch dies eine zielgerichtete Erfassungsmöglichkeit. Generell ist die Hemmschwelle deutlich niedriger, einen Angriff zu starten, wenn keine eigenen Soldat:innen geopfert werden müssen.

Was, wenn die Drohnen irren, die Gesichtserkennung versagt?
Ab dem 16. Lebensjahr ist das Gesicht relativ stabil. Egal, ob jemand zunimmt, einen Hangover hat oder Bart und Sonnenbrille trägt, wird die Gesichtserkennung zuverlässig funktionieren. Ich frage mich immer, was passiert wäre, wenn Osama bin Laden rasiert und im Business-Anzug vor uns gestanden hätte – vermutlich hätten wir ihn nicht erkannt. KI schon.

In welchem Bereich ist der Einsatz von KI und speziell Gesichtserkennung Ihres Erachtens begrüssenswert?
In vielen. Bei der Bundespolizei gibt es etwa Abteilungen, die nichts anderes machen als Gewaltvideos und Kinderpornografie anzuschauen, um die Opfer zu identifizieren. Ein solches Klassifizieren ist für eine Maschine nicht nur viel einfacher, sie kann auch das Gesichtete auswerten, ohne seelisch Schaden zu nehmen. Bei aller gebotenen Vorsicht müssen wir aufpassen, dass Europa nicht zum technologischen Brachland verkommt. Im Vergleich zu den USA und China, die zugegebenerweise recht hemmungslos im Einsatz von künstlicher Intelligenz sind, sind wir schon fast ein bisschen technologiefeindlich – und das wird Fortschritt verhindern.

Wo steckt Ihrer Meinung nach die echte Revolution?
In der Medizin. Die Diagnostik und Analyse von Krankheiten könnten in der Tat revolutioniert werden, dafür braucht es allerdings grosse Datenmengen, wobei diese anonymisiert sein können. Kennen Sie das Spiel Mastermind? Da wählt man fünf Farbkugeln und das Gegenüber muss durch Kombination die Reihenfolge bestimmen. Die Maschine kann so etwas eben nicht nur mit fünf, sondern mit Millionen von Farben richtig kombinieren. Entsprechend liegen in der Fähigkeit, Muster zu erkennen, riesige Chancen, was das Bestimmen von Veranlagungen anbelangt. Diabetes, Darmkrebs, Depressionen – in puncto Früherkennung ein Segen; wenn es um Rückschlüsse auf charakterliche Eigenschaften geht, ist die Sache mit Vorsicht zu geniessen.

Worauf freuen Sie sich persönlich denn am meisten?
Mal abgesehen von selbstfahrenden Autos, auf den digitalen Assistenten, der mir das Restaurant reservieren, E-Mails beantworten und meinen Kalender managen kann. Das ist auch nicht mehr weiter als zwei bis drei Jahre weg. Es gibt bereits Demos von Google, die zeigen, wie Coiffeur-Termine abgemacht werden, und es völlig unklar ist, ob ein Mensch oder die Maschine spricht. Allerdings erst in Englisch. Auf die schweizerdeutsche Umsetzung müssen wir wohl noch etwas warten.

Fliegt die Maschine nicht auf, wenn beispielsweise die Kundin eine unerwartete Nachfrage hat?
Nein, sie ist in der Lage, adäquat zu reagieren, und trägt den Termin dann auch gleich im Kalender ein. Tesla will überdies nächstes Jahr den Prototyp für einen Roboter vorstellen und wenn der mir bald den Küchentisch abräumt, fände ich das auch ziemlich cool.

Ist es reine Paranoia, wenn ich damit rechne, dass mir nach unserem Gespräch auf dem Smartphone Roboter-Themen angezeigt werden?
Lassen Sie es mich so sagen: Es gibt schon Indizien dafür, dass wir hier gerade nicht völlig unter uns sind. Natürlich kommt künstliche Intelligenz in Smartphones und in Computern zum Einsatz. Unterschwellig ist sie eigentlich überall. Es sind ja nicht immer die grossen Roboter, die uns vor Augen führen, dass wir ins Zeitalter der KI eingetreten sind.