Nem apocalipse nem utopia no que diz respeito ao futuro da inteligência artificial e do progresso tecnológico: esta é a abordagem que... Energia digital, o livro interessante do professor Luísa Torchia, aluno de Sabino Cassese e professor titular de Direito Administrativo na Universidade Roma Tre, recentemente publicado pelo il Mulino. O ensaio aborda de forma sistemática, porém acessível, todas as questões de grande relevância que envolvem a Inteligência Artificial e as oportunidades e riscos do progresso tecnológico. Mas o que exatamente é o Poder Digital? "É o poder privado, concentrado nas mãos de algumas empresas americanas e chinesas que atingiram um tamanho tal que podem dominar mercados e competir com Estados" e além. Um poder enorme que exige regulamentação eficaz, precisamente o que a América de Trump não quer. Mas o desafio não acabou. Eis o que Torchia argumenta na entrevista com PRIMEIRO Online.
Professor Torchia, é significativo que o último capítulo do seu livro “Poder Digital” aborde um tema candente de grande interesse atual, intitulado O futuro digital entre o apocalipse, a utopia e o realismo.Parece que você se inclina para a terceira opção, mas como você realmente vê o futuro da energia digital?
É um futuro ainda por escrever e que depende significativamente de vários fatores. Depende, antes de tudo, da vontade das sociedades, dos estados, das organizações internacionais, das comunidades acadêmicas e dos indivíduos de não se deixarem, por assim dizer, "desarmados" pela perspectiva apocalíptica que, como em todos os apocalipses, gera grande ansiedade e inibe toda ação, porque a previsão apocalíptica pressupõe não apenas que o mundo está prestes a acabar, mas também que esse fim é inevitável. E, como Christian Friedrich Hebbel observou astutamente há quase dois séculos, "Há pessoas que se sentiriam consoladas até mesmo com o fim do mundo, contanto que o tivessem previsto.“A perspectiva apocalíptica é, portanto, paradoxalmente, também consoladora, porque justifica a incapacidade ou a falta de vontade de agir e reagir.”
Então, o que é necessário?
Ao mesmo tempo, não devemos nos deixar enganar por promessas de grandes e extraordinários benefícios futuros para todos. A visão utópica do desenvolvimento tecnológico é desmentida pelas inúmeras promessas não cumpridas. Não foram descobertos novos medicamentos ou tratamentos que salvem vidas, nem soluções para o câncer e doenças degenerativas; não foi encontrada nenhuma solução para as mudanças climáticas; não foram identificadas fontes de energia de baixo custo; não foi "criada" nenhuma nova arte, literatura ou música de qualidade comparável à produção humana. E cabe questionar se as declarações das grandes empresas de tecnologia sobre as "magníficas e progressistas fortunas" do desenvolvimento tecnológico — sempre previstas para daqui a vários anos ou mesmo décadas — não são simplesmente mensagens publicitárias destinadas a atrair o capital necessário para investimentos enormes, cujos retornos também são adiados para um futuro indeterminado.
O que você acha?
Acredito que uma abordagem realista não só é possível, como também necessária. Ela não nega as enormes vantagens e benefícios do progresso tecnológico, mas concentra-se primeiro nas vantagens reais, e não nas promessas. Em seguida, leva em consideração tanto os riscos que as novas tecnologias trazem, quanto a distribuição completamente desigual dessas vantagens e riscos. Há grupos e empresas que se apropriam amplamente desses benefícios e transferem todos os riscos e desvantagens para outros grupos e comunidades. A percepção desse fenômeno é generalizada hoje em dia e explica a crescente desconfiança em relação às grandes empresas de tecnologia, a oposição à construção de data centers, agora muito forte até mesmo nos Estados Unidos, e a proliferação de processos contra plataformas por violações de leis de concorrência, direitos de propriedade intelectual, privacidade e por danos à saúde mental de jovens.
Um caminho difícil de percorrer?
É obviamente um caminho difícil de seguir, mas as grandes empresas de tecnologia começam a sentir a pressão de uma opinião pública cada vez mais hostil e percebem claramente o risco de responsabilidades cada vez maiores — e custosas — que podem ser atribuídas a elas. Paradoxalmente, mas não totalmente paradoxalmente, elas veem a solução na intervenção pública, tanto regulatória quanto financeira, cada vez mais defendida por aqueles que até então se opunham veementemente às tentativas de regulação externa, afirmando enfaticamente que a autorregulação era suficiente. As regras impostas pelo Estado também podem ser mal utilizadas para mitigar a concorrência entre grandes empresas e prejudicar as menores, aumentando simultaneamente as barreiras de entrada para novos participantes. Portanto, as regras devem ser estabelecidas com muito cuidado e precisão e sujeitas a revisão para garantir sua eficácia e permitir correções rápidas.
Quais são as características dominantes da energia digital?
“Sintetizando os resultados da análise realizada em meu livro, o poder digital pode ser definido como um poder privado, global, estruturado em plataformas, extrativo, normativo, conformista e conformista, persuasivo e onipresente.
É, antes de tudo, um poder privado, concentrado nas mãos de algumas empresas americanas e chinesas, que atingiram um tamanho que lhes permite dominar os mercados e competir com os Estados Unidos.
impressionante.
Trata-se, portanto, de um poder de alcance global, que opera sem fronteiras territoriais e oferece ou vende produtos e serviços que se tornaram essenciais para a vida individual e coletiva em todo o mundo. É um poder estruturado segundo o modelo de plataforma, como um ponto de encontro entre oferta e demanda, informações, bens e serviços, que se tornou tão indispensável tanto para o comércio quanto para os usuários finais que impede, ou pelo menos torna muito difícil, a saída da plataforma dominante, em parte devido à falta de alternativas. Sistemas baseados em LLMs também são integrados a plataformas existentes (como o Gemini para o Google) ou seguem o modelo de plataforma, oferecendo uma gama cada vez maior de serviços integrados que não podem ser acessados separadamente. É um poder "extrativo", que busca obter os recursos necessários para o seu exercício sem arcar com os custos e apropriando-se das receitas em grande medida. É um poder normativo, porque estabelece as regras para as interações nas plataformas e, com as aplicações mais recentes, também regras para a prática de atividades médicas, bancárias ou financeiras. É um poder conformista e tendencialmente conformista, pois, por meio de modelos, reduz a variedade da realidade e, em seguida, retorna uma versão simplificada e uniforme dela, baseada em uma ordem meramente estatística e não moral, ética ou social. É um poder persuasivo e onipresente nos níveis econômico, político e social, porque a tecnologia em que se baseia tornou-se parte integrante da vida cotidiana, com o uso crescente não apenas de aplicações especializadas, mas talvez ainda mais de IA generativa capaz de interagir por meio da linguagem natural.
Em seu livro, você ilustra com muita clareza como o poder digital se tornou poder político e como o capitalismo digital se tornou mais poderoso que os Estados, colocando em risco a própria democracia: será que perdemos esse desafio para sempre, ou ainda podemos ter esperança de reequilibrar a balança de poder entre o poder digital e o poder democrático?
Um elemento distintivo e característico do poder digital é a concentração: uma concentração tão forte e impenetrável que nem o mercado nem o Estado conseguiram, pelo menos por enquanto, produzir medidas eficazes de redistribuição. O poder concentrado assemelha-se perigosamente ao poder ilimitado, e o poder ilimitado é, quase por definição, poder arbitrário. Como todos os poderes, porém, o poder digital também exige legitimidade, e essa legitimidade hoje não pode se basear apenas na força: as empresas de tecnologia também precisam vender produtos e serviços no mercado, convencer os consumidores de que seus produtos e serviços são úteis e, de fato, essenciais, assim como precisam captar recursos e cumprir as promessas de retorno, convencer as comunidades a acomodar seus centros de dados, convencer os Estados de que não estão colocando em risco sua soberania. Não é coincidência que os "chefões" das grandes empresas de tecnologia frequentemente fantasiem sobre novos planetas ou áreas deste planeta reservadas para eles.
Por que eles fazem isso?
Porque percebem a sociedade e suas regras como uma restrição à qual não querem se submeter, da qual gostariam de se libertar. Essa, porém, é uma perspectiva completamente ilusória, como demonstram duas reações distintas. Em países autocráticos, como a China, o Estado exerce firme controle sobre as empresas de tecnologia e sobre o uso e a difusão da tecnologia. Certamente não quero apontar a autocracia como exemplo, mas ela demonstra que o poder público, havendo vontade política, não é impotente. De fato, no caso da China, o Estado exige que os modelos de inteligência artificial reflitam os "valores" do socialismo, demonstrando que a tecnologia não é neutra. Em países democráticos, há uma crescente intolerância e desconfiança em relação à inovação tecnológica, que destrói empregos, cria desigualdade e discriminação, acentua a pobreza e a marginalização de grupos e comunidades inteiras. A democracia, com sua capacidade inclusiva, pluralista e deliberativa, é um possível antídoto e poderia ser fortalecida justamente como uma ferramenta que permite às sociedades modernas se defenderem e preservarem valores e objetivos coletivos. A esperança, portanto, é possível, mas deve ser cultivada, exercitada e defendida, e esta é uma tarefa que cabe a cada um de nós, como cidadãos de países democráticos."
Para governar o poder digital sem sufocar a inovação tecnológica, mas também sem ser sobrecarregado, você argumenta que a regulação é a chave. Nesse aspecto, a Europa está à frente, enquanto os EUA de Trump relutam em avançar. Mas se a regulação do poder digital não puder se estender ao mercado interno, parece inevitável que sua eficácia seja limitada. Ou não? Como superar esse desalinhamento entre a Europa e os EUA?
"Em primeiro lugar, pode ser um desalinhamento contingente: depende muito do que acontecer nas eleições americanas a partir de novembro e nos EUA nos próximos dois anos. Regular a inovação é difícil porque o objeto das regras está em constante mudança e, por essa mesma razão, a abordagem regulatória europeia à inteligência artificial é essencialmente baseada em riscos: os riscos não podem ser evitados, mas podem ser mitigados e, sobretudo, melhor compreendidos se houver um sistema de controle que os detecte. A regulamentação europeia pode ser criticada por sua burocracia — e uma tentativa de simplificação está sendo feita com o Digital Omnibus — mas tem uma vantagem importante: nenhuma grande empresa de tecnologia pode abrir mão do mercado europeu, um dos maiores e mais ricos do mundo. E assim, apesar de muitas críticas e resistência, nenhuma grande empresa de tecnologia deixou a Europa, apesar da regulamentação. O desalinhamento entre os EUA e a UE, portanto, existe, mas não impede a aplicação das regras europeias, dentro da Europa e, às vezes, até mesmo além de suas fronteiras, porque muitos sistemas jurídicos estão convergindo em torno do mesmo tipo de princípios e ferramentas para regular e controlar a inteligência artificial. Além disso, o argumento de que a regulamentação dificulta A inovação torna-se menos convincente quando emerge de seu estágio embrionário, como aconteceu agora com a inteligência artificial. A regulamentação é a principal ferramenta pela qual uma indústria pode garantir a segurança de seus produtos e conquistar a confiança do consumidor: ninguém embarcaria em um avião ou compraria medicamentos a menos que tivesse razoável certeza de que a viagem e o tratamento são seguros e isentos de riscos.
Qual você acha que é a melhor opção?
Naturalmente, a melhor opção seria uma regulamentação global, com a adesão de muitos Estados e organizações internacionais. Essa convergência não é impossível. Em meu livro, apresento dois exemplos em que essa convergência ocorreu: energia atômica e clonagem. As diferenças entre esses dois exemplos são claras: a energia atômica tende a pertencer aos Estados, enquanto a capacidade de clonagem surge em laboratórios de pesquisa. No primeiro caso, os Estados recorreram a tratados internacionais, enquanto no segundo houve uma convergência na escolha, adotada individualmente por cada Estado, de proibir a clonagem reprodutiva. Em ambos os casos, porém, a percepção dos perigos e riscos envolvidos — no caso da bomba atômica, dramaticamente demonstrados em Hiroshima e Nagasaki — juntamente com a crença de que soluções nacionais isoladas seriam completamente inadequadas — levou à adoção de regras compartilhadas que Estados e pesquisadores aceitaram e que, pelo menos por enquanto, não foram violadas ou, no caso de possíveis violações, como no Irã em relação à energia atômica, foram submetidas a mecanismos de controle internacional. Em ambos os casos, para simplificar bastante, tratam-se de regras fundamentalmente baseadas em proibições e na aceitação, pelas partes envolvidas, do exercício do poder de monitorar o cumprimento dessas proibições por autoridades ou agências nacionais ou internacionais.
Mas será que já houve alguma tentativa de convergência em IA?
Em 2023, o G7 também buscou estabelecer princípios orientadores internacionais e regras de conduta compartilhadas em relação à inovação tecnológica, adotando princípios apropriadamente denominados Processo de IA de Hiroshima. Esses princípios orientadores internacionais devem ser aplicados a todo o ciclo de vida da IA (e, portanto, a todas as partes interessadas envolvidas nas diversas fases), e o Código Internacional de Conduta fornece diretrizes que os desenvolvedores de IA podem seguir voluntariamente. A implementação do Processo de IA de Hiroshima foi confiada à OCDE, que definiu a estrutura para os relatórios de monitoramento em fevereiro de 2025.
O desafio ao poder digital está sendo travado, como seu livro também demonstra, em nível internacional, mas o que a Itália pode fazer dentro da Europa para se colocar na melhor posição para participar desse jogo?
A Itália não possui grandes quantidades de capital de investimento ou recursos naturais, mas tem universidades excelentes e é capaz de formar pesquisadores de alto nível — que vão para o exterior em busca de fortuna: nós os formamos e depois transmitimos esse legado para outros países. Possui uma tradição cultural e de conhecimento técnico que, apesar da destruição de tantas experiências industriais nos últimos anos, ainda perdura. Se, em vez de dispersar essa riqueza cultural e de conhecimento, ela fosse concentrada em centros de pesquisa e produção, permitindo que crescessem até atingir uma massa crítica e fossem integrados ao sistema industrial e ao setor público, poderíamos dar uma contribuição significativa.
