A Próxima Onda: Inteligência artificial, poder e o maior dilema do século XXI, escrito por Mustafa Suleyman e Michael Bhaskar, é uma obra que se debruça sobre os desafios e as implicações éticas, sociais e políticas da ascensão da inteligência artificial (IA).
Este livro é especialmente relevante para o campo do Direito Digital, uma vez que os avanços tecnológicos apresentados trazem à tona questões jurídicas cruciais sobre a regulamentação, a contenção tecnológica e o impacto dessas inovações no Estado de Direito.
A Próxima Onda explora, com um tom simultaneamente otimista e sombrio, o papel que a IA desempenhará na redefinição das estruturas sociais e legais, colocando o Direito Digital no centro de um debate existencial sobre a sobrevivência das democracias liberais e a preservação dos direitos fundamentais.
Os autores de A Próxima Onda
Mustafa Suleyman é um dos cofundadores da Inflection AI e da DeepMind, esta uma das principais empresas de pesquisa em inteligência artificial do mundo, adquirida pelo Google em 2015.
Com uma trajetória marcada por sua atuação na interface entre tecnologia e ética, Suleyman tem sido uma voz influente no debate sobre as implicações sociais e políticas da IA.
Além de sua carreira na DeepMind, ele também desempenhou um papel significativo na Alphabet, a empresa controladora do Google, onde liderou iniciativas voltadas para o desenvolvimento responsável da tecnologia.
Michael Bhaskar é editor e estrategista digital com vasta experiência na interseção entre tecnologia, mídia e sociedade. Bhaskar é conhecido por seu trabalho como cofundador da Canelo, uma editora digital inovadora, e por suas contribuições como escritor sobre os impactos da tecnologia na cultura e na economia.
Principais ideias de A Próxima Onda
A Próxima Onda é dividido em quatro partes:
- Homo Technologicus: fala da proliferação infinita da IA e do problema da contenção;
- A Próxima Onda: trata das características da imensa onda de alterações que o mundo irá sofrer com a combinação de inteligência artificial e biotecnologia;
- Estado de Falha: analisa a fragilidade dos antigos sistemas de organização social, incluindo o sistema democrático, diante da próxima onda de inovação;
- Através da Onda: explora ideias para concretizar a contenção da IA.
O conceito de “contenção tecnológica” é central para entender o desafio de regular tecnologias que estão em rápida evolução, como a IA.
A contenção, como descrita pelos autores, envolve um conjunto interligado de mecanismos técnicos, sociais e legais destinados a restringir e controlar a tecnologia.
Este conceito é especialmente pertinente para o Direito Digital, pois a capacidade de regular e conter tecnologias avançadas determina, em última instância, a eficácia das normas jurídicas em um cenário de crescente automação e digitalização.
Os autores destacam o “problema da contenção”, questionando como manter o controle sobre tecnologias que são inerentemente gerais, omniuso, hiperevolutivas e, em alguns aspectos, autônomas.
Estas características tornam a regulamentação um desafio, pois essas tecnologias, uma vez disseminadas, são difíceis de conter.
No contexto do Direito Digital, isso se traduz em um dilema regulatório: como criar leis e políticas que sejam suficientemente flexíveis para se adaptarem a um cenário tecnológico em constante mudança, mas também suficientemente robustas para proteger os direitos e liberdades individuais?
A necessidade e os limites da regulamentação da inteligência artificial
Suleyman e Bhaskar discutem a necessidade de regulamentação como uma das respostas ao desafio da contenção, mas são claros ao apontar suas limitações.
A regulação tecnológica, segundo os autores, não pode ser a única solução.
Eles enfatizam que a velocidade da evolução tecnológica supera em muito a capacidade dos reguladores de acompanhar as mudanças, criando um descompasso entre a inovação tecnológica e a capacidade regulatória.
Esta questão é particularmente crítica para o Direito Digital, ramo no qual as leis precisam ser não apenas reativas, mas também proativas, antecipando os impactos futuros das tecnologias emergentes.
O impacto da próxima onda no sistema democrático
Um dos pontos mais intrigantes do livro é a discussão sobre o impacto da IA no Estado-nação.
Suleyman e Bhaskar sugerem que a ascensão da IA pode desafiar as estruturas políticas tradicionais, ameaçando a soberania estatal e a ordem democrática.
A IA, ao centralizar poder em grandes corporações tecnológicas e ao mesmo tempo descentralizar capacidades em nível individual, cria um cenário de “turbobalcanização”, onde o poder político é fragmentado e as instituições tradicionais são contornadas.
O livro também explora as consequências da “explosão de inteligência”, em que uma IA pode se aperfeiçoar de maneira recursiva, tornando-se incontrolável.
Este cenário levanta questões éticas e legais sobre a responsabilidade e a accountability de sistemas de IA, algo que o Direito precisa abordar com urgência.
A possibilidade de que a IA possa operar fora do controle humano coloca em risco princípios fundamentais, como a segurança, a privacidade e a liberdade individual, exigindo uma reflexão profunda sobre os limites e as capacidades da regulação jurídica.
Além disso, Suleyman e Bhaskar discutem a “ameaça quântica”, na qual a computação quântica poderia comprometer a segurança de sistemas criptográficos, pilares da infraestrutura digital moderna.
Esta ameaça sublinha a necessidade de uma abordagem global e coordenada para a regulamentação e a contenção tecnológica, algo que o Direito Digital precisa liderar, considerando as implicações globais da tecnologia.
A Próxima Onda não se limita a descrever os problemas; os autores também propõem soluções, como a criação de uma Autoridade de Auditoria da IA, que monitoraria e regulamentaria o desenvolvimento de IA em nível global.
Esta proposta é um exemplo claro de como o Direito Digital pode evoluir para se tornar um campo mais integrado e colaborativo, que transcende fronteiras nacionais e aborda os desafios da tecnologia de maneira holística.
Conclusão
“A Próxima Onda: Inteligência artificial, poder e o maior dilema do século XXI” é uma obra que oferece uma análise profunda e crítica das implicações da IA e das tecnologias emergentes para a sociedade e o Direito.
Para quem estuda Direito Digital, o livro de Suleyman e Bhaskar é uma leitura essencial, pois coloca em perspectiva os desafios que serão enfrentados por juristas, reguladores e legisladores nas próximas décadas.
Eis alguns dos principais tópicos anotados:
- A próxima onda tecnológica é impulsionada principalmente pela inteligência artificial e biologia sintética, com potencial para transformar radicalmente a sociedade;
- A contenção da tecnologia é crucial para garantir que ela sirva à humanidade, envolvendo mecanismos técnicos, sociais e legais;
- As tecnologias emergentes são caracterizadas por serem de uso geral, hiperevolutivas, com impactos assimétricos e altamente autônomas;
- A regulamentação sozinha é insuficiente para conter os riscos da próxima onda tecnológica, devido à velocidade da inovação e à natureza global dos desafios;
- É necessária uma abordagem multifacetada, incluindo cooperação internacional, novas estruturas de governança e maior foco na segurança tecnológica;
- O dilema central é equilibrar o progresso tecnológico com a segurança, evitando tanto a estagnação quanto o controle excessivo que leva à distopia;
- A próxima onda tecnológica tem o potencial de gerar enormes benefícios econômicos e sociais, mas também apresenta riscos existenciais significativos;
- É crucial envolver a sociedade em um debate amplo sobre o futuro da tecnologia e seus impactos, indo além das discussões de elite.
Em conclusão, a obra destaca a importância de uma abordagem multifacetada para a regulação da tecnologia, na qual a contenção é vista não apenas como uma necessidade técnica, mas como uma imperativa moral e social.
Ao discutir as limitações da regulamentação e a necessidade de novas formas de governança e responsabilidade, os autores fornecem um ponto de partida crucial para a reflexão sobre o futuro do Direito Digital.
