NOVA IORQUE – Embora a inteligência artificial (IA) nos esteja a ajudar discretamente há décadas, com o progresso a acelerar nos últimos anos, 2023 será recordado como um momento “big bang”. Com o surgimento da IA generativa, a tecnologia abriu caminho pela consciência popular e está a moldar o discurso público, a influenciar o investimento e a atividade económica, a desencadear a concorrência geopolítica e a mudar todo o tipo de atividades humanas, desde a educação aos cuidados de saúde e às artes. Todas as semanas surgem novos desenvolvimentos impressionantes. A IA não vai desaparecer e a mudança está a acelerar.
A definição de políticas está a avançar quase ao mesmo ritmo, com o lançamento de novas iniciativas regulamentares e fóruns que procuram dar resposta à evolução dos tempos. Mas embora os esforços atuais do G7, da União Europeia e dos Estados Unidos sejam encorajadores, nenhum deles é universal, suscetível de representar o património comum mundial. De facto, com o desenvolvimento da IA a ser impulsionado por um punhado de CEO e agentes do mercado em apenas alguns países, as vozes da maioria, particularmente do Sul Global, têm estado ausentes dos debates sobre governação.
Os desafios únicos que a IA coloca exigem uma abordagem global coordenada à governação e apenas uma instituição tem a legitimidade inclusiva necessária para organizar essa resposta: as Nações Unidas. Temos de agir da forma correta com a governação da IA se quisermos aproveitar o seu potencial e mitigar os seus riscos. Tendo isso em mente, o Órgão Consultivo de Alto Nível das Nações Unidas sobre IA foi criado para fornecer análises e recomendações, de forma a resolver o défice de governação global. É composto por um grupo de 38 indivíduos de todo o mundo, representando uma diversidade geográfica, de género, de cenários educativos e etária, e recorrendo a conhecimentos especializados do governo, da sociedade civil, do setor privado e do meio académico.
Sentimo-nos privilegiados por sermos o Comité Executivo do Órgão Consultivo. Hoje, divulgámos o relatório intercalar do grupo, que propõe cinco princípios para cimentar a governação da IA e enfrentar vários desafios interligados.
Em primeiro lugar, uma vez que os riscos diferem consoante os diversos contextos globais, cada um deles exigirá soluções adaptadas em conformidade. Mas isso significa reconhecer que os direitos e as liberdades podem ser postos em causa por escolhas específicas de planeamento, utilização (e má utilização) e governação. Não aplicar a IA de forma construtiva – o que chamamos de “utilizações desperdiçadas” – pode exacerbar desnecessariamente os problemas e desigualdades existentes.
Em segundo lugar, uma vez que a IA é uma ferramenta para o desenvolvimento económico, científico e social, e uma vez que já está a auxiliar as pessoas na vida quotidiana, tem de ser governada no interesse público. Isto significa ter em conta objetivos relacionados com a equidade, a sustentabilidade e o bem-estar social e individual, bem como questões estruturais mais amplas, como mercados competitivos e ecossistemas de inovação saudáveis.
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Em terceiro lugar, os quadros regulamentares emergentes nas diferentes regiões terão de ser harmonizados para se enfrentar eficazmente os desafios da governação global da IA. Em quarto lugar, a governação da IA deve ser acompanhada de medidas para defender a entidade e proteger a privacidade e a segurança dos dados pessoais. Por último, a governação deve estar ancorada na Carta das Nações Unidas, na legislação internacional em matéria de direitos humanos e noutros compromissos internacionais em que exista um amplo consenso global, como os Objetivos de Desenvolvimento Sustentável.
A afirmação destes princípios no contexto da IA exige a superação de alguns desafios persistentes. A IA baseia-se em grandes quantidades de capacidade de computação, dados e, claro, em talentos humanos específicos. A governação global tem de considerar a forma de desenvolver e garantir um amplo acesso a estes três elementos. Tem, também, de abordar a criação de capacidades para a infraestrutura básica que sustenta o ecossistema da IA – como a banda larga e a eletricidade fiáveis – principalmente para o Sul Global.
Também são necessários maiores esforços para enfrentar os riscos conhecidos, e ainda desconhecidos, que possam surgir do desenvolvimento, implantação ou utilização da IA. O risco da IA é um assunto debatido de forma acalorada. Enquanto alguns se concentram em eventuais cenários do fim da humanidade, outros estão mais preocupados com os danos causados às pessoas aqui e agora; mas há pouca discordância quanto ao facto de os riscos da IA não governada serem inaceitáveis.
A boa governação assenta em provas sólidas. Prevemos a necessidade de avaliações objetivas do estado da IA e da sua trajetória, para dar aos cidadãos e aos governos uma base sólida para as políticas e a regulamentação. Ao mesmo tempo, um observatório analítico para avaliar o impacto social da IA – desde a deslocação de postos de trabalho até às ameaças à segurança nacional – ajudaria os governantes a acompanhar as imensas mudanças que a IA está a provocar autonomamente. A comunidade internacional terá de desenvolver a capacidade de se fiscalizar a si própria, nomeadamente monitorizando e respondendo a incidentes potencialmente desestabilizadores (como fazem os principais bancos centrais face a crises financeiras) e facilitando a responsabilização e até mesmo ações coercivas.
Estas são apenas algumas das recomendações que estamos a promover. Devem ser vistas como um pavimento, não como um teto. Acima de tudo, são um convite para que mais pessoas nos digam que tipo de governação da IA gostariam de ver.
Para que a IA possa concretizar o seu potencial global, são necessárias novas estruturas e proteções para nos ajudar a todos a prosperar à medida que for evoluindo. Todos têm interesse no desenvolvimento seguro, equitativo e responsável da IA. Os riscos da inação também são claros. Acreditamos que a governação global da IA é essencial para aproveitar as oportunidades significativas e navegar os riscos que esta tecnologia apresenta para cada Estado, comunidade e indivíduo, hoje e para as gerações vindouras.
Ian Bremmer, Carme Artigas, James Manyika e Marietje Schaake são membros do Comité Executivo do Órgão Consultivo de Alto Nível das Nações Unidas para a Inteligência Artificial.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
While both the American and Chinese Gilded Ages raised material standards of living for hundreds of millions of people, their endemic corruption produced radically unequal and unsustainable growth. Ultimately, both periods offer cautionary tales about unbridled crony capitalism, not models for blind emulation.
explains how corruption both drove the country's GDP growth and sowed the seeds for its current economic problems.
Since taking power in 2014, Prime Minister Narendra Modi and his ruling Bharatiya Janata Party have stoked Hindu nationalism, hollowed out India’s democracy, and overseen an economy that is probably performing far worse than official figures suggest. And yet Modi and the BJP are genuinely popular, making them likely – though not certain – to emerge victorious when the ongoing parliamentary election concludes in June.
NOVA IORQUE – Embora a inteligência artificial (IA) nos esteja a ajudar discretamente há décadas, com o progresso a acelerar nos últimos anos, 2023 será recordado como um momento “big bang”. Com o surgimento da IA generativa, a tecnologia abriu caminho pela consciência popular e está a moldar o discurso público, a influenciar o investimento e a atividade económica, a desencadear a concorrência geopolítica e a mudar todo o tipo de atividades humanas, desde a educação aos cuidados de saúde e às artes. Todas as semanas surgem novos desenvolvimentos impressionantes. A IA não vai desaparecer e a mudança está a acelerar.
A definição de políticas está a avançar quase ao mesmo ritmo, com o lançamento de novas iniciativas regulamentares e fóruns que procuram dar resposta à evolução dos tempos. Mas embora os esforços atuais do G7, da União Europeia e dos Estados Unidos sejam encorajadores, nenhum deles é universal, suscetível de representar o património comum mundial. De facto, com o desenvolvimento da IA a ser impulsionado por um punhado de CEO e agentes do mercado em apenas alguns países, as vozes da maioria, particularmente do Sul Global, têm estado ausentes dos debates sobre governação.
Os desafios únicos que a IA coloca exigem uma abordagem global coordenada à governação e apenas uma instituição tem a legitimidade inclusiva necessária para organizar essa resposta: as Nações Unidas. Temos de agir da forma correta com a governação da IA se quisermos aproveitar o seu potencial e mitigar os seus riscos. Tendo isso em mente, o Órgão Consultivo de Alto Nível das Nações Unidas sobre IA foi criado para fornecer análises e recomendações, de forma a resolver o défice de governação global. É composto por um grupo de 38 indivíduos de todo o mundo, representando uma diversidade geográfica, de género, de cenários educativos e etária, e recorrendo a conhecimentos especializados do governo, da sociedade civil, do setor privado e do meio académico.
Sentimo-nos privilegiados por sermos o Comité Executivo do Órgão Consultivo. Hoje, divulgámos o relatório intercalar do grupo, que propõe cinco princípios para cimentar a governação da IA e enfrentar vários desafios interligados.
Em primeiro lugar, uma vez que os riscos diferem consoante os diversos contextos globais, cada um deles exigirá soluções adaptadas em conformidade. Mas isso significa reconhecer que os direitos e as liberdades podem ser postos em causa por escolhas específicas de planeamento, utilização (e má utilização) e governação. Não aplicar a IA de forma construtiva – o que chamamos de “utilizações desperdiçadas” – pode exacerbar desnecessariamente os problemas e desigualdades existentes.
Em segundo lugar, uma vez que a IA é uma ferramenta para o desenvolvimento económico, científico e social, e uma vez que já está a auxiliar as pessoas na vida quotidiana, tem de ser governada no interesse público. Isto significa ter em conta objetivos relacionados com a equidade, a sustentabilidade e o bem-estar social e individual, bem como questões estruturais mais amplas, como mercados competitivos e ecossistemas de inovação saudáveis.
Subscribe to PS Digital
Access every new PS commentary, our entire On Point suite of subscriber-exclusive content – including Longer Reads, Insider Interviews, Big Picture/Big Question, and Say More – and the full PS archive.
Subscribe Now
Em terceiro lugar, os quadros regulamentares emergentes nas diferentes regiões terão de ser harmonizados para se enfrentar eficazmente os desafios da governação global da IA. Em quarto lugar, a governação da IA deve ser acompanhada de medidas para defender a entidade e proteger a privacidade e a segurança dos dados pessoais. Por último, a governação deve estar ancorada na Carta das Nações Unidas, na legislação internacional em matéria de direitos humanos e noutros compromissos internacionais em que exista um amplo consenso global, como os Objetivos de Desenvolvimento Sustentável.
A afirmação destes princípios no contexto da IA exige a superação de alguns desafios persistentes. A IA baseia-se em grandes quantidades de capacidade de computação, dados e, claro, em talentos humanos específicos. A governação global tem de considerar a forma de desenvolver e garantir um amplo acesso a estes três elementos. Tem, também, de abordar a criação de capacidades para a infraestrutura básica que sustenta o ecossistema da IA – como a banda larga e a eletricidade fiáveis – principalmente para o Sul Global.
Também são necessários maiores esforços para enfrentar os riscos conhecidos, e ainda desconhecidos, que possam surgir do desenvolvimento, implantação ou utilização da IA. O risco da IA é um assunto debatido de forma acalorada. Enquanto alguns se concentram em eventuais cenários do fim da humanidade, outros estão mais preocupados com os danos causados às pessoas aqui e agora; mas há pouca discordância quanto ao facto de os riscos da IA não governada serem inaceitáveis.
A boa governação assenta em provas sólidas. Prevemos a necessidade de avaliações objetivas do estado da IA e da sua trajetória, para dar aos cidadãos e aos governos uma base sólida para as políticas e a regulamentação. Ao mesmo tempo, um observatório analítico para avaliar o impacto social da IA – desde a deslocação de postos de trabalho até às ameaças à segurança nacional – ajudaria os governantes a acompanhar as imensas mudanças que a IA está a provocar autonomamente. A comunidade internacional terá de desenvolver a capacidade de se fiscalizar a si própria, nomeadamente monitorizando e respondendo a incidentes potencialmente desestabilizadores (como fazem os principais bancos centrais face a crises financeiras) e facilitando a responsabilização e até mesmo ações coercivas.
Estas são apenas algumas das recomendações que estamos a promover. Devem ser vistas como um pavimento, não como um teto. Acima de tudo, são um convite para que mais pessoas nos digam que tipo de governação da IA gostariam de ver.
Para que a IA possa concretizar o seu potencial global, são necessárias novas estruturas e proteções para nos ajudar a todos a prosperar à medida que for evoluindo. Todos têm interesse no desenvolvimento seguro, equitativo e responsável da IA. Os riscos da inação também são claros. Acreditamos que a governação global da IA é essencial para aproveitar as oportunidades significativas e navegar os riscos que esta tecnologia apresenta para cada Estado, comunidade e indivíduo, hoje e para as gerações vindouras.
Ian Bremmer, Carme Artigas, James Manyika e Marietje Schaake são membros do Comité Executivo do Órgão Consultivo de Alto Nível das Nações Unidas para a Inteligência Artificial.