BRÜSSEL – Im Mai brachte Google ein lange erwartetes Update heraus, das generative künstliche Intelligenz in seine dominierende Suchmaschine integrierte. Nutzern, die in den USA nach Informationen suchen, wird nun manchmal, vor der üblichen Liste von nach Relevanz geordneten Websites, eine KI-generierte Übersicht angezeigt, die die Ergebnisse zusammenfasst.
Innerhalb weniger Tage berichteten die Menschen über bizarre, ungenaue und geradezu gefährliche Antworten der neuen KI-Überblicksfunktion. So schlug das Modell vor, Klebstoff zu verwenden, damit der Käse auf Pizza besser haftet, pries die kardiovaskulären Vorteile des Laufens mit einer Schere und behauptete, der ehemalige US-Präsident Barack Obama sei Muslim. Google beeilte sich, diese Fehler zu beheben, doch viele Experten argumentieren, dass diese Probleme technologieinhärent sind. Google-CEO Sundar Pichai selbst bezeichnete derartige „Halluzinationen“ als „ungelöstes Problem“ und „grundlegendes Merkmal“ der Technologie. Im stillschweigenden Eingeständnis des Scheiterns scheint Google den Anteil der Nutzer, denen die Übersichten angezeigt werden, reduziert zu haben.
Google wurde weithin – und zu Recht – kritisiert, weil es eine Technologie auf den Markt gebracht hat, die offensichtlich nicht einsatzreif ist und den Nutzern schaden könnte. Doch nur wenige haben sich gefragt, warum der Technologie-Gigant überhaupt derart dreist handeln konnte. Die Antwort ist einfach: Google ist, so die Vorsitzende der Federal Trade Commission Lina Khan, „zu groß, als dass es das kümmern müsste“. Google kontrolliert etwa 90 % des globalen Marktes für Web-Suchanfragen und steht unter wenig Wettbewerbsdruck. Es kann ein unzuverlässiges oder unsicheres Produkt herausbringen, ohne fürchten zu müssen, Kunden an Rivalen zu verlieren.
Ähnlich gibt es für Google aufgrund seiner Marktmacht keinen Anreiz, die Qualität aufrechtzuerhalten. Seine Suchmaschine hat sich in den letzten Jahren rapide verschlechtert, wobei organische Ergebnisse zunehmend von Werbung und Spam verdrängt werden. Cory Doctorow hat den Begriff „Shittifizierung“ geprägt, um die Praxis von Technologie-Unternehmen zu beschreiben, den Verbrauchern zunächst hilfreiche und erschwingliche (oder kostenlose) Dienstleistungen anzubieten und dann die Preise zu erhöhen und die Qualität zu verringern, sobald sie den Markt beherrschen. Beispiele hierfür gibt es zuhauf: Amazon hat die Gebühren für Verkäufer schrittweise erhöht und überschwemmt zugleich die Käufer mit immer mehr gesponserten Ergebnissen, während die Meta-eigenen Plattformen Instagram und Facebook anstelle von vertrauenswürdigen Nachrichten und Updates von Freunden und Familie zunehmend Werbung, Videos und andere Clickbait-Inhalte pushen.
Dasselbe gilt für „Upgrades“ wie Googles KI-Überblicksfunktion. Diese absichtlichen und manchmal drastischen Produktänderungen werden unter dem progressiv klingenden Banner der „Innovation“ verkauft, aber verschlechtern das Nutzererlebnis oft erheblich. In Anlehnung an Doctorow könnte man sogar von „Shittovation“ sprechen.
Google ist bei Weitem nicht der einzige Monopolist, der ein unausgereiftes KI-Produkt auf den Markt gebracht hat. Meta hat Millionen von Instagram- und Facebook-Nutzern seine neuen KI-Agenten aufgezwungen, obwohl diese Fakten erfinden und Menschen imitieren. Im Februar begann der Chatbot ChatGPT von OpenAI, unsinniges Zeug zu produzieren; u. a. vermischte er dabei verschiedene Sprachen miteinander. Und Microsofts eigene Ingenieure haben das Unternehmen kritisiert, weil es einen Bildgenerator herausgebracht hat, der auf OpenAI-Technologie basiert und gewalttätige, sexualisierte und politisch voreingenommene Inhalte erzeugt. Jedes Unternehmen hat gezielte Korrekturen vorgenommen, aber dieser Ansatz, bei dem auftretende Probleme jeweils einzeln und unsystematisch angegangen werden, ist für eine Technologie, die zunehmend als grundlegend unzuverlässig erscheint, schlicht unzureichend.
As the US presidential election nears, stay informed with Project Syndicate - your go-to source of expert insight and in-depth analysis of the issues, forces, and trends shaping the vote. Subscribe now and save 30% on a new Digital subscription.
Subscribe Now
Während die übereilte Einführung generativer KI teilweise durch monopolistische Selbstzufriedenheit angetrieben wird, festigt sie zugleich die Marktmacht der großen Technologie-Unternehmen. Diese Marktmacht hat ihnen jene enormen Mengen an Daten, Rechenleistung, Fachwissen und Kapital verschafft, die es ihnen ermöglichten, große Sprachmodelle überhaupt erst zu entwickeln. Google und Meta nutzen generative KI, um ihr Duopol im digitalen Werbegeschäft zu festigen, während die KI-gestützte Nachfrage nach Rechenleistung Microsofts und Amazons Monopolstellung im Cloud-Computing festigt. Gleichzeitig füttern die KI-Tools die datenhungrige Überwachungs- und Manipulationsmaschinerie dieser Unternehmen. Ob die Nutzer von der Technologie profitieren, ist dabei zweitrangig.
Das Wettrüsten zwischen den Technologie-Unternehmen, insbesondere der Wettstreit um generative KI, wird manchmal als Beweis für Wettbewerbsdruck innerhalb der Branche angeführt. Doch versäumt dieses Argument, zwischen Wettbewerb „um den Markt“ und Wettbewerb „im Markt“ zu unterscheiden. Die Technologie-Giganten scheinen miteinander zu konkurrieren, aber das ist fast immer eine Illusion. Tatsächlich versucht jedes Unternehmen, den Graben um seine eigene Einflusssphäre zu vertiefen, was zu einem angespannten, aber weitgehend statischen Nebeneinander führt. Und in den seltenen Fällen, in denen es zum direkten Wettbewerb kommt – wie etwa zwischen Microsoft und Google bei der Websuche –, bleiben die Marktanteile weitgehend unverändert.
Besorgniserregender ist, dass das heutige KI-Ökosystem von Abspracheverhalten durchdrungen ist: Die Technologie-Giganten schließen zunehmend Partnerschaften ähnlich den lukrativen Vereinbarungen, die Google einging, um seine Dominanz bei der Suche aufrechtzuerhalten. Dazu gehören Microsofts Cloud-Computing-Deal mit Meta, eine kürzlich angekündigte Partnerschaft zwischen Apple und OpenAI und Googles Pläne, seine KI-Technologien in Samsung-Telefone zu integrieren. Mehrere dieser Vereinbarungen werden bereits von den Kartellbehörden untersucht.
In einem Bereich freilich konkurrieren die Technologie-Giganten: Jeder möchte das Wohlwollen der Anleger gewinnen und den Eindruck vermeiden, im KI-Wettrüsten ins Hintertreffen zu geraten. Doch die toxische Kombination aus rücksichtslosem Wachstumswettlauf und der Unterdrückung des Wettbewerbs treibt den gefährlichen und verschwenderischen Einsatz unerprobter Technologien voran.
Es wird nicht ausreichen, marginal mehr Wettbewerb zwischen den Technologie-Monopolisten zu fördern und zu hoffen, dass diese dadurch gezwungen werden, sich stärker auf Sicherheit und Zuverlässigkeit zu konzentrieren. Verbindliche Vorschriften wie das Künstliche-Intelligenz-Gesetz der Europäischen Union sind ein notwendiger erster Schritt, um diese Unternehmen zur Verantwortung zu ziehen. Aber die politischen Entscheidungsträger müssen die ihnen zur Verfügung stehenden Instrumente zugleich kreativer nutzen, um echte Alternativen zu den Technologie-Giganten zu fördern und sicherzustellen, dass die Nutzer nicht länger als ahnungslose Versuchskaninchen dienen. Das könnte bedeuten, das Kartellrecht einzusetzen oder in Unternehmen zu investieren, die die heutigen Monopole im Cloud-Computing und in der Chip-Herstellung herausfordern könnten.
Genauso wichtig ist es, Innovation nicht als Selbstzweck zu behandeln, unabhängig davon, welchen Zweck sie erfüllt oder wessen Interessen sie voranbringt. Stattdessen müssen wir ein viel nuancierteres Verständnis dafür entwickeln, wie Erzählungen über Innovation von Anlegern, dominanten Unternehmen und anderen mächtigen Akteuren geformt und gesteuert werden. Nur dann können wir eine sinnvolle Diskussion über die Rolle der KI in unseren Gesellschaften führen.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
Despite losing its parliamentary majority, the Liberal Democratic Party is poised to form a minority government. But with a fragile administration dependent on ad hoc negotiations with small opposition parties, Prime Minister Ishiba Shigeru will struggle to advance his agenda, suggesting his premiership may be short-lived.
considers the political and economic implications of the ruling bloc’s loss of its parliamentary majority.
From the economy to foreign policy to democratic institutions, the two US presidential candidates, Kamala Harris and Donald Trump, promise to pursue radically different agendas, reflecting sharply diverging visions for the United States and the world. Why is the race so nail-bitingly close, and how might the outcome change America?
Log in/Register
Please log in or register to continue. Registration is free and requires only your email address.
BRÜSSEL – Im Mai brachte Google ein lange erwartetes Update heraus, das generative künstliche Intelligenz in seine dominierende Suchmaschine integrierte. Nutzern, die in den USA nach Informationen suchen, wird nun manchmal, vor der üblichen Liste von nach Relevanz geordneten Websites, eine KI-generierte Übersicht angezeigt, die die Ergebnisse zusammenfasst.
Innerhalb weniger Tage berichteten die Menschen über bizarre, ungenaue und geradezu gefährliche Antworten der neuen KI-Überblicksfunktion. So schlug das Modell vor, Klebstoff zu verwenden, damit der Käse auf Pizza besser haftet, pries die kardiovaskulären Vorteile des Laufens mit einer Schere und behauptete, der ehemalige US-Präsident Barack Obama sei Muslim. Google beeilte sich, diese Fehler zu beheben, doch viele Experten argumentieren, dass diese Probleme technologieinhärent sind. Google-CEO Sundar Pichai selbst bezeichnete derartige „Halluzinationen“ als „ungelöstes Problem“ und „grundlegendes Merkmal“ der Technologie. Im stillschweigenden Eingeständnis des Scheiterns scheint Google den Anteil der Nutzer, denen die Übersichten angezeigt werden, reduziert zu haben.
Google wurde weithin – und zu Recht – kritisiert, weil es eine Technologie auf den Markt gebracht hat, die offensichtlich nicht einsatzreif ist und den Nutzern schaden könnte. Doch nur wenige haben sich gefragt, warum der Technologie-Gigant überhaupt derart dreist handeln konnte. Die Antwort ist einfach: Google ist, so die Vorsitzende der Federal Trade Commission Lina Khan, „zu groß, als dass es das kümmern müsste“. Google kontrolliert etwa 90 % des globalen Marktes für Web-Suchanfragen und steht unter wenig Wettbewerbsdruck. Es kann ein unzuverlässiges oder unsicheres Produkt herausbringen, ohne fürchten zu müssen, Kunden an Rivalen zu verlieren.
Ähnlich gibt es für Google aufgrund seiner Marktmacht keinen Anreiz, die Qualität aufrechtzuerhalten. Seine Suchmaschine hat sich in den letzten Jahren rapide verschlechtert, wobei organische Ergebnisse zunehmend von Werbung und Spam verdrängt werden. Cory Doctorow hat den Begriff „Shittifizierung“ geprägt, um die Praxis von Technologie-Unternehmen zu beschreiben, den Verbrauchern zunächst hilfreiche und erschwingliche (oder kostenlose) Dienstleistungen anzubieten und dann die Preise zu erhöhen und die Qualität zu verringern, sobald sie den Markt beherrschen. Beispiele hierfür gibt es zuhauf: Amazon hat die Gebühren für Verkäufer schrittweise erhöht und überschwemmt zugleich die Käufer mit immer mehr gesponserten Ergebnissen, während die Meta-eigenen Plattformen Instagram und Facebook anstelle von vertrauenswürdigen Nachrichten und Updates von Freunden und Familie zunehmend Werbung, Videos und andere Clickbait-Inhalte pushen.
Dasselbe gilt für „Upgrades“ wie Googles KI-Überblicksfunktion. Diese absichtlichen und manchmal drastischen Produktänderungen werden unter dem progressiv klingenden Banner der „Innovation“ verkauft, aber verschlechtern das Nutzererlebnis oft erheblich. In Anlehnung an Doctorow könnte man sogar von „Shittovation“ sprechen.
Google ist bei Weitem nicht der einzige Monopolist, der ein unausgereiftes KI-Produkt auf den Markt gebracht hat. Meta hat Millionen von Instagram- und Facebook-Nutzern seine neuen KI-Agenten aufgezwungen, obwohl diese Fakten erfinden und Menschen imitieren. Im Februar begann der Chatbot ChatGPT von OpenAI, unsinniges Zeug zu produzieren; u. a. vermischte er dabei verschiedene Sprachen miteinander. Und Microsofts eigene Ingenieure haben das Unternehmen kritisiert, weil es einen Bildgenerator herausgebracht hat, der auf OpenAI-Technologie basiert und gewalttätige, sexualisierte und politisch voreingenommene Inhalte erzeugt. Jedes Unternehmen hat gezielte Korrekturen vorgenommen, aber dieser Ansatz, bei dem auftretende Probleme jeweils einzeln und unsystematisch angegangen werden, ist für eine Technologie, die zunehmend als grundlegend unzuverlässig erscheint, schlicht unzureichend.
Go beyond the headlines with PS - and save 30%
As the US presidential election nears, stay informed with Project Syndicate - your go-to source of expert insight and in-depth analysis of the issues, forces, and trends shaping the vote. Subscribe now and save 30% on a new Digital subscription.
Subscribe Now
Während die übereilte Einführung generativer KI teilweise durch monopolistische Selbstzufriedenheit angetrieben wird, festigt sie zugleich die Marktmacht der großen Technologie-Unternehmen. Diese Marktmacht hat ihnen jene enormen Mengen an Daten, Rechenleistung, Fachwissen und Kapital verschafft, die es ihnen ermöglichten, große Sprachmodelle überhaupt erst zu entwickeln. Google und Meta nutzen generative KI, um ihr Duopol im digitalen Werbegeschäft zu festigen, während die KI-gestützte Nachfrage nach Rechenleistung Microsofts und Amazons Monopolstellung im Cloud-Computing festigt. Gleichzeitig füttern die KI-Tools die datenhungrige Überwachungs- und Manipulationsmaschinerie dieser Unternehmen. Ob die Nutzer von der Technologie profitieren, ist dabei zweitrangig.
Das Wettrüsten zwischen den Technologie-Unternehmen, insbesondere der Wettstreit um generative KI, wird manchmal als Beweis für Wettbewerbsdruck innerhalb der Branche angeführt. Doch versäumt dieses Argument, zwischen Wettbewerb „um den Markt“ und Wettbewerb „im Markt“ zu unterscheiden. Die Technologie-Giganten scheinen miteinander zu konkurrieren, aber das ist fast immer eine Illusion. Tatsächlich versucht jedes Unternehmen, den Graben um seine eigene Einflusssphäre zu vertiefen, was zu einem angespannten, aber weitgehend statischen Nebeneinander führt. Und in den seltenen Fällen, in denen es zum direkten Wettbewerb kommt – wie etwa zwischen Microsoft und Google bei der Websuche –, bleiben die Marktanteile weitgehend unverändert.
Besorgniserregender ist, dass das heutige KI-Ökosystem von Abspracheverhalten durchdrungen ist: Die Technologie-Giganten schließen zunehmend Partnerschaften ähnlich den lukrativen Vereinbarungen, die Google einging, um seine Dominanz bei der Suche aufrechtzuerhalten. Dazu gehören Microsofts Cloud-Computing-Deal mit Meta, eine kürzlich angekündigte Partnerschaft zwischen Apple und OpenAI und Googles Pläne, seine KI-Technologien in Samsung-Telefone zu integrieren. Mehrere dieser Vereinbarungen werden bereits von den Kartellbehörden untersucht.
In einem Bereich freilich konkurrieren die Technologie-Giganten: Jeder möchte das Wohlwollen der Anleger gewinnen und den Eindruck vermeiden, im KI-Wettrüsten ins Hintertreffen zu geraten. Doch die toxische Kombination aus rücksichtslosem Wachstumswettlauf und der Unterdrückung des Wettbewerbs treibt den gefährlichen und verschwenderischen Einsatz unerprobter Technologien voran.
Es wird nicht ausreichen, marginal mehr Wettbewerb zwischen den Technologie-Monopolisten zu fördern und zu hoffen, dass diese dadurch gezwungen werden, sich stärker auf Sicherheit und Zuverlässigkeit zu konzentrieren. Verbindliche Vorschriften wie das Künstliche-Intelligenz-Gesetz der Europäischen Union sind ein notwendiger erster Schritt, um diese Unternehmen zur Verantwortung zu ziehen. Aber die politischen Entscheidungsträger müssen die ihnen zur Verfügung stehenden Instrumente zugleich kreativer nutzen, um echte Alternativen zu den Technologie-Giganten zu fördern und sicherzustellen, dass die Nutzer nicht länger als ahnungslose Versuchskaninchen dienen. Das könnte bedeuten, das Kartellrecht einzusetzen oder in Unternehmen zu investieren, die die heutigen Monopole im Cloud-Computing und in der Chip-Herstellung herausfordern könnten.
Genauso wichtig ist es, Innovation nicht als Selbstzweck zu behandeln, unabhängig davon, welchen Zweck sie erfüllt oder wessen Interessen sie voranbringt. Stattdessen müssen wir ein viel nuancierteres Verständnis dafür entwickeln, wie Erzählungen über Innovation von Anlegern, dominanten Unternehmen und anderen mächtigen Akteuren geformt und gesteuert werden. Nur dann können wir eine sinnvolle Diskussion über die Rolle der KI in unseren Gesellschaften führen.
Aus dem Englischen von Jan Doolan