ŽENEVA – V posledních měsících se vývoj umělé inteligence (AI) značně urychlil a systémy generativní AI jako ChatGPT nebo Midjourney rychle transformují širokou paletu profesionálních činností a tvůrčích procesů. Okno příležitostí, kdy ještě můžeme řídit vývoj této mocné technologie tak, abychom minimalizovali rizika a maximalizovali přínosy, se rychle uzavírá.
Kapacity založené na AI existují paralelně s kontinuem, přičemž systémy generativní AI jako GPT-4 (nejnovější verze ChatGPT) spadají do nejpokročilejší kategorie. Vzhledem k tomu, že tyto systémy představují největší příslib a mohou vést k nejzrádnějším nástrahám, zasluhují si obzvláště bedlivý dohled ze strany veřejných i soukromých aktérů.
Prakticky všechny technologické pokroky mají na společnost pozitivní i negativní dopady. Na jednu stranu podporují ekonomickou produktivitu a růst příjmů, rozšiřují přístup k informacím a komunikačním technologiím, prodlužují lidem život a zlepšují celkový blahobyt. Na druhou stranu vedou k propouštění pracovní síly, ke stagnaci mezd, k vyšší nerovnosti a ke zvyšující se koncentraci zdrojů u jednotlivců a korporací.
AI v tom není jiná. Systémy generativní AI otevírají bezpočet příležitostí v oblastech, jako jsou produktový design, tvorba obsahu, vývoj léčiv a zdravotnictví, personalizované vzdělávání nebo optimalizace spotřeby energie. Současně se mohou ukázat jako vysoce disruptivní, ba přímo škodlivé pro naše ekonomiky i společnost.
Rizika, která pokročilá AI představuje už dnes, i ta, jež lze racionálně předvídat do budoucna, jsou značná. Vedle rozsáhlé reorientace trhů práce mohou takzvané systémy velkého jazykového modelu (LLM) urychlovat šíření dezinformací a prohlubovat škodlivé předsudky. Stejně tak hrozí, že generativní AI zhorší ekonomickou nerovnost. Takové systémy dokonce mohou představovat existenční riziko pro celé lidstvo.
Pro někoho je to důvod, proč u výzkumu AI šlápnout na brzdu. Minulý měsíc podepsalo více než 1000 technologů AI od Elona Muska po Stevea Wozniaka otevřený dopis, který doporučuje, aby AI laboratoře „okamžitě pozastavily“ výcvik systémů výkonnějších než GPT-4, a to nejméně na šest měsíců. Během této pauzy, tvrdí signatáři, by se měl zformulovat a zavést soubor společných bezpečnostních protokolů, které „rigorózně prověří nezávislí externí experti a budou na ně dohlížet“.
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Otevřený dopis i vzrušená debata, kterou vyvolal, jen podtrhují naléhavou potřebu, aby se všichni aktéři v dobré víře zapojili do rozsáhlého procesu, jehož cílem bude sjednotit se za robustními a všeobecně sdílenými pravidly vývoje a zavádění pokročilých AI. Takové úsilí musí zohledňovat otázky, jako jsou automatizace a zánik pracovních míst, digitální štěpení nebo koncentrace kontroly nad technologickými aktivy a zdroji v podobě dat či výpočetního výkonu. A nejvyšší prioritou musí být setrvalá práce na eliminaci systémových předsudků při výcviku AI, aby je systémy jako ChatGPT nereprodukovaly, či dokonce neprohlubovaly.
Návrhy na řízení AI a digitálních služeb už se objevují, a to i ve Spojených státech a v Evropské unii. Přispívají k nim rovněž organizace typu Světového ekonomického fóra. V roce 2021 odstartovalo fórum Globální koalici za digitální bezpečnost, která si klade za cíl sjednotit zainteresované strany v boji proti škodlivému obsahu na internetu a usnadnit vzájemnou výměnu nejlepších postupů při regulaci internetové bezpečnosti. Fórum následně založilo Iniciativu za digitální důvěru, která se má zasazovat o to, aby se pokročilé technologie typu AI vyvíjely s ohledem na veřejný zájem.
Fórum dnes naléhavě vyzývá veřejný a soukromý sektor ke spolupráci, která bude řešit problémy související s příchodem generativní AI a budovat konsensus v otázce dalších kroků při vývoji a zavádění této technologie. V zájmu usnadnění pokroku pořádá fórum v partnerství s AI Commons – neziskovou organizací podporovanou realizátory AI, akademickou sférou i nevládními organizacemi orientovanými na obecné blaho – globální summit o generativní AI, jenž se uskuteční 26. až 28. dubna v San Francisku. Účastníci budou diskutovat o dopadu této technologie na podnikání, společnost i planetu a spolupracovat na vymýšlení způsobů, jak zmírnit negativní externality a zajistit bezpečnější, trvale udržitelnější a spravedlivější výsledky.
Generativní AI změní svět, ať se nám to líbí, nebo ne. V tomto klíčovém okamžiku vývoje nové technologie musíme zvolit kooperativní přístup, který nám umožní udělat vše, co je v našich silách, abychom zajistili, že celý proces proběhne v souladu s našimi společnými zájmy a hodnotami.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
With German voters clearly demanding comprehensive change, the far right has been capitalizing on the public's discontent and benefiting from broader global political trends. If the country's democratic parties cannot deliver, they may soon find that they are no longer the mainstream.
explains why the outcome may decide whether the political “firewall” against the far right can hold.
The Russian and (now) American vision of "peace" in Ukraine would be no peace at all. The immediate task for Europe is not only to navigate Donald’s Trump unilateral pursuit of a settlement, but also to ensure that any deal does not increase the likelihood of an even wider war.
sees a Korea-style armistice with security guarantees as the only viable option in Ukraine.
Rather than engage in lengthy discussions to pry concessions from Russia, US President Donald Trump seems committed to giving the Kremlin whatever it wants to end the Ukraine war. But rewarding the aggressor and punishing the victim would amount to setting the stage for the next war.
warns that by punishing the victim, the US is setting up Europe for another war.
Within his first month back in the White House, Donald Trump has upended US foreign policy and launched an all-out assault on the country’s constitutional order. With US institutions bowing or buckling as the administration takes executive power to unprecedented extremes, the establishment of an authoritarian regime cannot be ruled out.
The rapid advance of AI might create the illusion that we have created a form of algorithmic intelligence capable of understanding us as deeply as we understand one another. But these systems will always lack the essential qualities of human intelligence.
explains why even cutting-edge innovations are not immune to the world’s inherent unpredictability.
ŽENEVA – V posledních měsících se vývoj umělé inteligence (AI) značně urychlil a systémy generativní AI jako ChatGPT nebo Midjourney rychle transformují širokou paletu profesionálních činností a tvůrčích procesů. Okno příležitostí, kdy ještě můžeme řídit vývoj této mocné technologie tak, abychom minimalizovali rizika a maximalizovali přínosy, se rychle uzavírá.
Kapacity založené na AI existují paralelně s kontinuem, přičemž systémy generativní AI jako GPT-4 (nejnovější verze ChatGPT) spadají do nejpokročilejší kategorie. Vzhledem k tomu, že tyto systémy představují největší příslib a mohou vést k nejzrádnějším nástrahám, zasluhují si obzvláště bedlivý dohled ze strany veřejných i soukromých aktérů.
Prakticky všechny technologické pokroky mají na společnost pozitivní i negativní dopady. Na jednu stranu podporují ekonomickou produktivitu a růst příjmů, rozšiřují přístup k informacím a komunikačním technologiím, prodlužují lidem život a zlepšují celkový blahobyt. Na druhou stranu vedou k propouštění pracovní síly, ke stagnaci mezd, k vyšší nerovnosti a ke zvyšující se koncentraci zdrojů u jednotlivců a korporací.
AI v tom není jiná. Systémy generativní AI otevírají bezpočet příležitostí v oblastech, jako jsou produktový design, tvorba obsahu, vývoj léčiv a zdravotnictví, personalizované vzdělávání nebo optimalizace spotřeby energie. Současně se mohou ukázat jako vysoce disruptivní, ba přímo škodlivé pro naše ekonomiky i společnost.
Rizika, která pokročilá AI představuje už dnes, i ta, jež lze racionálně předvídat do budoucna, jsou značná. Vedle rozsáhlé reorientace trhů práce mohou takzvané systémy velkého jazykového modelu (LLM) urychlovat šíření dezinformací a prohlubovat škodlivé předsudky. Stejně tak hrozí, že generativní AI zhorší ekonomickou nerovnost. Takové systémy dokonce mohou představovat existenční riziko pro celé lidstvo.
Pro někoho je to důvod, proč u výzkumu AI šlápnout na brzdu. Minulý měsíc podepsalo více než 1000 technologů AI od Elona Muska po Stevea Wozniaka otevřený dopis, který doporučuje, aby AI laboratoře „okamžitě pozastavily“ výcvik systémů výkonnějších než GPT-4, a to nejméně na šest měsíců. Během této pauzy, tvrdí signatáři, by se měl zformulovat a zavést soubor společných bezpečnostních protokolů, které „rigorózně prověří nezávislí externí experti a budou na ně dohlížet“.
Winter Sale: Save 40% on a new PS subscription
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Otevřený dopis i vzrušená debata, kterou vyvolal, jen podtrhují naléhavou potřebu, aby se všichni aktéři v dobré víře zapojili do rozsáhlého procesu, jehož cílem bude sjednotit se za robustními a všeobecně sdílenými pravidly vývoje a zavádění pokročilých AI. Takové úsilí musí zohledňovat otázky, jako jsou automatizace a zánik pracovních míst, digitální štěpení nebo koncentrace kontroly nad technologickými aktivy a zdroji v podobě dat či výpočetního výkonu. A nejvyšší prioritou musí být setrvalá práce na eliminaci systémových předsudků při výcviku AI, aby je systémy jako ChatGPT nereprodukovaly, či dokonce neprohlubovaly.
Návrhy na řízení AI a digitálních služeb už se objevují, a to i ve Spojených státech a v Evropské unii. Přispívají k nim rovněž organizace typu Světového ekonomického fóra. V roce 2021 odstartovalo fórum Globální koalici za digitální bezpečnost, která si klade za cíl sjednotit zainteresované strany v boji proti škodlivému obsahu na internetu a usnadnit vzájemnou výměnu nejlepších postupů při regulaci internetové bezpečnosti. Fórum následně založilo Iniciativu za digitální důvěru, která se má zasazovat o to, aby se pokročilé technologie typu AI vyvíjely s ohledem na veřejný zájem.
Fórum dnes naléhavě vyzývá veřejný a soukromý sektor ke spolupráci, která bude řešit problémy související s příchodem generativní AI a budovat konsensus v otázce dalších kroků při vývoji a zavádění této technologie. V zájmu usnadnění pokroku pořádá fórum v partnerství s AI Commons – neziskovou organizací podporovanou realizátory AI, akademickou sférou i nevládními organizacemi orientovanými na obecné blaho – globální summit o generativní AI, jenž se uskuteční 26. až 28. dubna v San Francisku. Účastníci budou diskutovat o dopadu této technologie na podnikání, společnost i planetu a spolupracovat na vymýšlení způsobů, jak zmírnit negativní externality a zajistit bezpečnější, trvale udržitelnější a spravedlivější výsledky.
Generativní AI změní svět, ať se nám to líbí, nebo ne. V tomto klíčovém okamžiku vývoje nové technologie musíme zvolit kooperativní přístup, který nám umožní udělat vše, co je v našich silách, abychom zajistili, že celý proces proběhne v souladu s našimi společnými zájmy a hodnotami.
Z angličtiny přeložil Jiří Kobělka