Zum Inhalt springen
  • Von: Marina Fischer
  • Themen Business Intelligence Java Infrastruktur & Middleware Business Solutions Development Datenbank
  • 25.09.2017

Künstliche Intelligenz: Die schleichende Entmachtung

Autonome Autos oder Algorithmen, die uns jegliche Entscheidungen abnehmen – die Entwicklungen im Bereich der künstlichen Intelligenz durchdringen immer mehr unseren Alltag. Professor Karsten Weber forscht in Regensburg am Institut für Sozialforschung und Technikfolgenabschätzung. Beim HumanIThesia-Kongress der Integrata Stiftung, der am 28. Oktober in Tübingen stattfindet, fordert er einen dringenden Diskurs zum Thema Ethik und künstliche Intelligenz (KI). Im Interview spricht er über die Chancen und Risiken.

In Literatur und Film wird häufig die Gefahr von künstlicher Intelligenz thematisiert. Wird es Ihrer Meinung nach irgendwann zu einem Aufstand der intelligenten Maschinen kommen?

Ich glaube kaum, dass die Menschen, die heute auf der Erde leben, sich darüber Gedanken machen müssen. Es gibt jedoch ein großes Aber: Wenn man solche Filme nicht gerade wörtlich nimmt und stattdessen als eine Metapher dafür sieht, dass Menschen bis zu einem gewissen Grad die Kontrolle über ihr Leben verlieren, weil plötzlich die Technik bestimmte Entscheidungen trifft, dann ist das gar nicht so abwegig. Denken Sie zum Beispiel einmal daran, dass heutzutage in der Regel kein Mensch mehr entscheidet, ob Sie einen Kredit bekommen, sondern ein Algorithmus. Und zwar ein Algorithmus, dessen Funktionsweise Sie weder durchschauen noch hinterfragen können. Mit der Entscheidung, die getroffen wird, müssen Sie allerdings leben.

Wenn man das Ganze also so versteht, dass in bestimmten Bereichen unseres Lebens Entscheidungen von Menschen weggenommen werden und diese auch nicht mehr so ohne Weiteres hinterfragt werden können, dann sind diese Befürchtungen nicht mehr so unrealistisch. Wir gewöhnen uns sehr einfach an solche Veränderungen, weil sie schleichend sind und nie unser ganzes Leben betreffen, sondern immer nur Teilbereiche. Irgendwann stehen wir dann vor der Situation, dass bestimmte Bereiche unserer Kontrolle entglitten sind. In diesem Sinne sind solche Dystopien zwar übertrieben, aber im Kern sprechen sie etwas an, was nicht völlig von der Hand zu weisen ist.

Braucht es Regeln für den Umgang mit künstlicher Intelligenz?

Das kann man uneingeschränkt mit Ja beantworten. Am autonomen Fahren kann man es wohl am besten sehen: Im Moment ist die Technik noch nicht so weit, dass die Autos komplett autonom fahren können. Wir brauchen also Regeln, denn letztendlich müssen im Schadensfall Verantwortungs- und Haftungsfragen geklärt werden. Auch in anderen Bereichen ist es sicherlich sinnvoll, Regeln zu haben. Bei der medizinischen Diagnostik wäre etwa derzeit eine Regel, dass eine technisch gestellte Diagnose immer von einem menschlichen Arzt bestätigt werden muss.

Leider gibt es solche Regeln nicht überall. In vielen Fällen auch deswegen nicht, weil wir gar nicht wissen, dass wir mit künstlicher Intelligenz interagieren. Hinter diesem Ausdruck verbergen sich einfach unglaublich viele Techniken und Algorithmen. Schauen Sie sich einmal die Empfehlungstechniken bei Google oder Facebook an – da stecken auch KI-Algorithmen dahinter. Wie diese funktionieren, oder auf welcher Basis sie uns eine Empfehlung geben, wissen wir nicht. Das scheint mir ein echter Mangel an Regelung zu sein, denn dann sind wir in gewisser Weise in diesen Bereichen entmündigt.

Gibt es denn eine Instanz, die das Ganze kontrolliert?

(lacht) Das ist jetzt die richtig schwierige Frage. Ich bin sehr skeptisch gegenüber einem Zertifizierungsinstitut von staatlicher Seite. Zum einen haben solche Einrichtungen häufig das Problem, dass sie einfach nicht die richtigen Leute rekrutieren, um die Arbeit auch wirklich gut zu machen. Zum anderen sind sie meistens aufgrund von bürokratischen Hemmnissen zu langsam. Ich denke aber schon, dass es irgendeine Art von Institution geben müsste, bei der die Funktionsweise von Algorithmen hinterlegt ist, um im Konfliktfall eine Möglichkeit zu haben, da reinzugucken. Darüber hat sich im Moment noch niemand Gedanken gemacht. Das ist ein Problem. Wir bräuchten eine Regulierungsinstanz und vielleicht auch eine Institution, die diese Aufgabe übernimmt.

Das heißt, im Moment macht jedes Unternehmen, was es will?

Ja, alle Firmen kochen in der Tat ihr eigenes Süppchen. Die Firmen sind aber auch – das muss man aus ökonomischer Sicht verstehen – gar nicht daran interessiert, die Funktionsweise der von ihnen entwickelten KI-Algorithmen offenzulegen. Erstens ist es das Know-how, mit dem sie ihr Geld verdienen, und zweitens würde das auch Angriffe ermöglichen. Wenn man zum Beispiel genau weiß, wie Googles Algorithmen zur Produktion der Suchlisten funktionieren, dann kann man das von außen manipulieren. Man kann zum Beispiel dafür sorgen, dass man weiter oben in der Liste steht. Das möchte Google natürlich verhindern. Google möchte – das sagen sie zumindest – eine möglichst objektive Liste erzeugen. Das heißt, aus Unternehmensseite gibt es kein Interesse nach Transparenz. Aus gesellschaftlicher Sich dagegen muss es ein ganz starkes Interesse an Transparenz geben. Hier die Balance zu finden, das scheint mir im Moment aber weder diskutiert noch durchdacht worden zu sein.

Beim HumanIThesia-Kongress sprechen Sie daher auch über eine Notwendigkeit des Diskurses „Ethik und KI“.

Richtig. Im Moment ist das im Wesentlichen ein Elitendiskurs. Es findet kaum eine Diskussion in breiten Bevölkerungsschichten über die Frage statt, in welchen Bereichen diese Technik eingesetzt werden soll. KI hilft zum Beispiel auch sehr effektiv bei der Diagnose von Krankheiten. Jetzt wird diese Neuerung aber einfach eingeführt, und zwar ohne, dass die Ärzteschaft eine Diskussion darüber führen würde, wie sich ihr professionelles Selbstbild durch solche Technik verändern wird. Im Grunde genommen müssten alle Berufsgruppen, die mit dem Einsatz solcher Technik konfrontiert sind oder in Kürze damit konfrontiert sein werden, sich über ihr Berufsverständnis, ihre Profession, ihre Fähigkeiten viel genauer Gedanken machen und darüber diskutieren. Sie müssten sich die Frage stellen, wie wir diese Technik gewinnbringend einsetzen können, um einen gesellschaftlichen Nutzen zu erzielen, ohne dabei allzu viele negative Konsequenzen zu haben. Das wird tatsächlich nicht getan.

Vielleicht braucht es da wirklich den Anstoß von Leuten, die diese Notwendigkeit sehen. Die Integrata-Stiftung hat sich genau dieses Thema auf die Fahnen geschrieben und wir sind der Meinung, wir sollten hier aus der Zivilgesellschaft selbst diesen Diskurs anschieben, in der Hoffnung, dass es gewissermaßen ein Selbstläufer wird und nicht nur wir das machen, sondern dass auch andere das Thema vorantreiben.

Betrachtet man künstliche Intelligenz mal im Allgemeinen – sehen Sie in der rasanten Entwicklung mehr Chancen oder Gefahren?

Es gibt natürlich eine ganze Menge Chancen, denn es lassen sich mit Hilfe der Algorithmen, die wir häufig unter der Bezeichnung KI zusammenfassen, sehr viele Dinge machen, die Menschen unglaublich helfen können, wie zum Beispiel die Diagnose von Krankheiten.

Auf der anderen Seite werden wir sicher etwas erleben, was zumindest in Teilen der Bundesrepublik Deutschland in den 1980er Jahren durch die Automatisierung massiv stattgefunden hat: Es werden Arbeitsplätze wegfallen, überall da, wo die bisher menschliche Arbeitskraft durch Algorithmen übernommen werden können. Angesichts des demografischen Wandels scheint mir das aber möglicherweise kein allzu großes Problem zu werden, denn wir haben in vielen Bereichen Arbeitskräftemangel. Womöglich haben wir, zumindest in Deutschland, das Glück, dass hier zwei Entwicklungen zusammentreffen, die sich auf überraschende Weise positiv ergänzen.

Das heißt, der Mensch wird Ihrer Meinung nach nicht überflüssig werden?

Wenn man sich diese Horrorszenarien, die da teilweise kursieren, dass mehr als die Hälfte der Leute ihren Arbeitsplatz verlieren soll, einmal genauer ansieht, dann wären das wahrscheinlich Prozesse, die über recht lange Zeiträume stattfinden. Das haben wir im Zuge der letzten 200 Jahre schon mehrfach erlebt, es sind aber auch immer wieder neue Arbeitsplätze entstanden. Ohne Zweifel wird es aber Veränderungen geben, die man in ihrer Bedeutung nicht unterschätzen sollte.

 

Veranstaltungshinweis

Der HumanIThesia-Kongress der Integrata Stiftung zum Thema „Ethik und KI“ findet am 28. Oktober 2017 in Tübingen statt. Weitere Informationen dazu finden Sie hier.