Blog

Oder ist es nur number crunching?

Da hat sich die EU am Mittwoch, 21.4.2021 mit einem unpräzisen Dokument „Vertrauenswürdige Künstliche Intelligenz“ (https://ec.europa.eu/germany/news/20210421-kuenstliche-intelligenz-eu_de) geäußert. Es geht hier um Risiken und Sicherheit bei diesem berechtigten Thema.

Die EU möchte vier Risikostufen unterscheiden: Einsatz der künstlichen Intelligenz (KI, AI) mit unannehmbarem Risiko, mit hohem Risiko, geringem und minimalem Risiko. Nationale Marktüberwachungsbehörden sollen es richten. Ein begleitender EU-Ausschuss für Künstliche Intelligenz soll dabei unterstützen.

KI-Systeme, die die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen bedrohen, sollen verboten werden, wie z. B. Social Scoring. Für KI-Systeme mit hohem Risiko sollen strenge Vorgaben gelten, die erfüllt sein müssen, bevor sie auf den Markt gebracht werden. Militärisch nutzbare Systeme wie Drohnen hat man leider ausgenommen. Da sind andere schon weiter.

Der Text auf der Seite der EU ist gegenwärtig sehr schwammig formuliert. Wie daraus ein Gesetz werden soll? Die Auflistung ist frei von größeren Sachzusammenhängen. Sie wirkt zufällig, wie mit der heißen Nadel gestrickt. Ich glaube, die Bürokratie um Frau Vestager versteht die Komplexität um die KI überhaupt nicht. Wie will man bei selbstfahrenden PKW, die es ja bisher gar nicht geben dürfte, jede Zeile des Programmcodes validieren? Wer soll das bitteschön machen? Schon ein nicht autonomes Fahrzeug hat einen Bordrechner mit umfangreicher und komplexer Software. Das hat ja nicht mal bei der B737 Neo funktioniert, wo das bei Flugzeugen schon lange Stand der Technik sein sollte. Ich glaube, da werden noch viele Teslas ohne Fahrer auf dem Fahrersitz gegen den Baum fahren müssen.

Autonomes Fahren sei bereits Realität? Hallo, bitteschön! Der gegenwärtige Hype in der Automobilbranche ist eine große Volksverdummung! Man nehme halt ein bisschen KI und alles sei gut! Oder doch nicht? Real time validation and security per Software zu bieten, das bedeutet schließlich einen immensen technischen Aufwand. Als ob man zum Mond fliegen möchte! Das ist nichts, was man zur nächsten IAA mal schnell entwickeln kann!

Aber spannend ist die hippe Diskussion allemal. Sie drückt aus, dass man modern sein möchte. Jeder redet davon. In meinem Blog habe ich schließlich auch wissenschaftliche Themen dazu (historisches Expertensystem Internist, Summit gegen COVID-19, aktuell Myon g-2 und Protein folding problem) verarbeitet, die ja ebenfalls sogenannte künstliche Intelligenz benötigen. Aber von menschlichem Denken und Handeln ist bisher jede Form der künstlichen Intelligenz noch weit entfernt. Ein „Bewusstsein“ hat sie auch nicht, keinen „Charakter“ und ganz bestimmt keine „Ethik“ oder „Moral“. Deshalb wird die Gesetzes-Initiative der EU benötigt.

Die meisten großen Beispiele sind letztlich nur öffentlichkeitswirksames Number crunching mit Hochleistungsrechnern, nicht mehr aber auch nicht weniger. Nur wenn es um die schiere Masse und das Tempo dabei geht, ist die sogenannte AI wirklich besser als der Mensch. Unbestritten.

Alles, was heute so hochgelobt wird, ist aber leider letztlich nur „schwache“ Künstliche Intelligenz. Bessere Schachcomputer halt. „Starke“ Künstliche Intelligenz, die eigenständig völlig neue Erkenntnisse entwickeln könnte, die gibt es noch nicht. Wie hatte ich noch versucht, Intelligenz zu definieren?

Intelligenz ist die individuelle Fähigkeit, Umgebungseinflüsse zu perzeptieren, sie zu verstehen, darauf im eigenen Kontext zu reagieren, und sich das dabei Gelernte zu merken. al

Das bedeutet, das künstliche Intelligenz einen Verarbeitungszyklus beinhalten sollte, der eigene Erkenntnisse der Software ermöglicht, die über die ursprüngliche Fragestellung hinausgehen. Soweit ist das aber nicht. Die Faszination um die AI ist allerdings riesig. KI ist häufig ein Bestandteil von Dystopien, also Modellen von Gesellschaften, die von einem System – gerne einem intelligenten Großrechner – gesteuert werden, wobei die Persönlichkeitsrechte des Einzelnen dann ausgeschaltet werden. Das System wisse schon, was für den Einzelnen gut sei. „Recht ist, was dem Volk nützt.“ So hieß das im Dritten Reich. Noch ohne Großrechner.

In meinem Blog habe ich hierzu unter „Die andere Gesundheitsdiktatur“ geschrieben. Neulich habe ich mal so einen Thriller im Stile von 007 gelesen, bei dem ein Biocomputer unter dem Einfluss eines Bösewichts die ganze Welt bedroht. Solche Bücher dürfte es wie Sand am Meer geben.

Wenn auch die Erfolge der bisherigen „Schwachen Künstlichen Intelligenz“ schon beeindruckend sind, schon alleine durch die Verknüpfung der bereits bekannten Daten, dann ist es dennoch ein weiter Weg hin bis zu menschenähnlichem Denken der Maschinen. Achten wir dennoch auf die weitere Entwicklung und darauf, wer davon profitiert!

Das Beitragsbild symbolisiert unsere wie religiöse Verehrung für die Datenverarbeitung und die KI: Der MareNostrum Supercomputer in Barcelona, installiert in einer ehemaligen Kirche!