Bei der Anwendung von KI-basierten Algorithmen entsteht schnell eine unheilige Allianz zwischen Wirtschaft und Staat. Die Wirtschaft möchte möglichst berechenbare und steuerbare, normierte Dauerkonsumenten. Und der Staat möchte möglichst berechenbare Steuerzahler, die als normierte Gutmenschen keine Schwierigkeiten machen und alle staatlichen Pflichten ohne Murren akzeptieren. Im Idealfall lässt sich dieses gemeinsame Interesse von Wirtschaft und Staat über Synergieeffekte nutzen. Es liegt sowohl im Interesse der Wirtschaft als des Staates, dass Menschen ihre Gesundheit mit Fitnesstrackern und anderen Geräten dauernd überwachen. Denn von den so erhobenen Daten profitieren beide. Die Wirtschaft (in diesem Fall Versicherungen, Anbieter von Gesundheitsdienstleistungen) kann mit diesen Datenmassgeschneiderte Anreize und Lösungen für jeden einzelnen Kunden anbieten. Und der Staat kann grosse Präventionsprogramme mit flächendeckendem Health-Monitoring umsetzen, um die Menschen zu einem immer gesünderen Leben zu animieren. Oder, wenn wir den privaten Automobilverkehr betrachten, dann haben sowohl Wirtschaft als auch Staat ein Interesse daran, alle Autos mit Sensoren und Kameras auszurüsten. Die Wirtschaft kann dann wieder mit massgeschneiderten Angeboten auf die individuellen «Bedürfnisse» der Kunden reagieren und neue Autos verkaufen bzw. individualisierte Versicherungslösungen anbieten. Der Staat wiederum kann alle Autofahrerinnen und -fahrer, lückenlos überwachen und so sicherstellen, dass keiner zu schnell, übermüdet oder mit zu hoher Menge an Alkohol im Blut herumfährt. Und natürlich kann er dann auch dafür sorgen, dass der Verkehr ökologisch optimiert wird. Zunächst erscheint das alles sinnvoll. Wollen wir nicht alle gesünder leben, den Verkehr sicherer machen, die schulische Ausbildung unserer Kinder verbessern und Steuerhinterziehung erschweren, in einer intakten Umwelt leben?
Sollte eine wohlwollende Regierung nicht möglichst viele Daten und Informationen haben, um damit Kriminalität zu bekämpfen, den Energieverbrauch zu senken und ökonomische Krisen zu vermeiden? Nicht unbedingt. Wir müssen etwas genauer schauen, unter welchen Bedingungen KI-Anwendungen tatsächlich auf den Markt kommen. Märkte für KI-Anwendungen egal ob Large-Language Models, Shopping Agenten oder Navigationssysteme sind durch Informationsasymmetrie und Marktmacht charakterisiert. Dies ermöglicht es Big-Tech-Unternehmen wie Apple, Amazon, Alphabet (Google) oder Meta (Facebook), über diese Anwendungen ihre eigenen wirtschaftlichen Interessen durchzusetzen. Marktmacht entsteht durch gleichzeitige Verfügbarkeit über Daten und KI im großen Stil. Big-Tech entwickeln globale KI-Ökosysteme, um eine global dominierende Rolle spielen zu können. Diese Unternehmen sind in allen Bereichen der KI-Entwicklung und KI-Produktion tätig und nutzen das, was sie produzieren, in unterschiedlichen Geschäftsbereichen. So erzeugt die Google-Suchmaschine einen ständigen Bedarf an KI-Verbesserungen, da ihr Wettbewerbsvorteil entscheidend von ihrer Vorhersagekraft abhängt. Big-Tech-Unternehmen halten ihre dominierenden Marktpositionen aufrecht, indem sie die KI ständig weiterentwickeln, Partnerschaften eingehen und führende Unternehmen in diesem Bereich aufkaufen. Und weil sie viel besser über die Funktionsweise der KI informiert sind als die Anwender, können sie auch diese Informationsasymmetrie ausnutzen. Überall werden wir mit Informationen bombardiert, welche uns den grossen Nutzen und den Fortschritt der KI anpreisen, ohne dass wir wissen, wie diese genau funktioniert. KI ist für Anwender eine Black Box, welche Entscheide aufgrund der Erkennung von Mustern in hochdimensionalen Datenräumen trifft, die dem menschlichen Gehirn nicht mehr zugänglich sind. Man muss der KI einfach glauben, dass sie die richtigen Entscheide trifft. Damit soll nicht gesagt werden, dass KI an sich schädlich oder bedrohlich ist. Aber wir sollten ihr mit Vorsicht begegnen. Schnell wird man von einzelnen Anwendungen und damit auch Anbietern (Big-Tech-Firmen) abhängig und ist dann ihrer Marktmacht ausgeliefert. Das betrifft insbesondere auch den Staat, der technologisch nicht in der Lage ist, KI-Anwendungen selbst zu entwickeln. Ein von Google abhängiger Staat ist aber keine erfreuliche Zukunftsvision.

Prof. Dr. Matthias Binswanger