O desenvolvimento da inteligência artificial (IA) não pode ser deixado exclusivamente sob o controle das grandes empresas de tecnologia. O alerta foi feito por Chris Olah, cofundador da Anthropic, durante um evento no Vaticano nesta segunda-feira (25). De acordo com informações da Reuters, o executivo defendeu a urgência de uma maior supervisão externa, envolvendo governos, líderes religiosos e a sociedade civil organizada.
Olah participou da apresentação da primeira encíclica dedicada aos desafios da inteligência artificial. Sentado ao lado das autoridades católicas, o cofundador da empresa criadora do Claude afirmou que existe uma “possibilidade real” de a tecnologia substituir o trabalho humano em larga escala. Diante desse cenário, ele destacou que o suporte aos profissionais impactados se tornará um imperativo moral de proporções históricas.
Pressões comerciais e conflitos de interesse
O executivo admitiu abertamente que os principais laboratórios de IA do mundo operam sob fortes pressões comerciais, geopolíticas e pessoais. Segundo ele, esses fatores frequentemente entram em conflito com o que seria correto fazer para o bem comum da sociedade.
Mesmo os pesquisadores mais bem-intencionados acabam sofrendo a influência dessas forças de mercado. É por essa razão que, conforme relatado à Reuters, Olah considera o escrutínio de agentes externos indispensável para guiar a tecnologia em uma direção segura.
O evento marcou uma aproximação incomum entre o setor de tecnologia e a Igreja Católica, que vem tentando se posicionar como uma voz moral ativa diante dos rápidos avanços da IA.
O único representante do setor no Vaticano
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI (criadora do ChatGPT), que deixaram a antiga companhia justamente por temerem que o desenvolvimento de ferramentas estivesse avançando rápido demais, sem os devidos testes de segurança.
Diferenciando-se de outras gigantes do setor, a Anthropic já enfrentou embates com a administração do presidente Donald Trump nos Estados Unidos ao insistir na implementação de barreiras de proteção. Essas travas limitam o uso de seus modelos de IA para fins militares, como o direcionamento autônomo de armas ou sistemas de vigilância doméstica.
Questionado pela Reuters sobre o motivo de ser o único representante de peso da tecnologia convidado para o evento, Olah apontou seu histórico de dedicação à segurança dos sistemas e sua interlocução constante com mais de 15 religiões diferentes para debater os impactos éticos da IA.
Um momento assustador: as três prioridades urgentes
Olah não escondeu sua preocupação com o ritmo atual das transformações e classificou o cenário atual como “um momento assustador”. Para o executivo, o público – especialmente os mais jovens – tem motivos legítimos para se preocupar com a velocidade e o poder dessa tecnologia.
Para evitar que a situação fuja do controle, o cofundador da Anthropic listou três frentes prioritárias que exigem atenção imediata do mundo:
- Desemprego em massa: a necessidade de criar redes de apoio para conter o deslocamento da força de trabalho humana.
- Desigualdade global: o desenvolvimento da IA hoje está concentrado em um pequeno grupo de nações ricas, tornando urgente o debate sobre como compartilhar esses ganhos globalmente.
- Opacidade dos sistemas: o desafio técnico, ainda sem solução definitiva, de compreender e interpretar o comportamento cada vez mais complexo e “invisível” dos modelos avançados.
O post Cofundador da Anthropic diz no Vaticano que IA não pode ficar apenas nas mãos das big techs apareceu primeiro em Olhar Digital.
Powered by WPeMatico
