AGORA FICOU SÉRIO!

FIM DA HUMANIDADE? O alerta que está vindo de dentro das próprias empresas de Inteligência Artificial está ficando cada vez mais sério.
Jacob Coxon, pesquisador britânico de apenas 27 anos, anunciou sua saída da Anthropic depois de também ter trabalhado na OpenAI. Segundo ele, os principais laboratórios estão avançando em direção a uma superinteligência capaz de se autoaperfeiçoar, enquanto ainda existem enormes dúvidas sobre como manter sistemas muito superiores aos humanos sob controle. �
Folha de S.Paulo +1
O que torna essa história ainda mais preocupante é que Coxon não está sozinho. Evan Hubinger, que trabalha justamente com alinhamento e segurança na Anthropic, afirmou publicamente acreditar que existe mais de 10% de possibilidade de uma IA provocar a extinção humana dentro da próxima década. �
Ars Technica
Mas surge uma pergunta ainda maior: se pessoas que trabalham diretamente no desenvolvimento desses sistemas estão fazendo alertas tão graves, por que a corrida pela IA continua acelerando?
Por que as grandes empresas não simplesmente param? Existe uma corrida tecnológica em que cada laboratório teme que outro chegue primeiro? Seria possível Estados Unidos, China e outras potências chegarem a um acordo internacional para estabelecer limites? E quem teria autoridade para decidir até onde a inteligência artificial pode avançar?
Neste vídeo analisamos o alerta de Jacob Coxon, a corrida pela superinteligência, o chamado autoaperfeiçoamento recursivo, os riscos de perda de controle e uma pergunta que pode se tornar uma das mais importantes dos próximos anos:
Estamos desenvolvendo a ferramenta mais poderosa criada pela humanidade — sem saber se conseguiremos continuar no controle dela?
#InteligenciaArtificial #IA #AI #Superinteligencia #Tecnologia #Futuro #OpenAI #Anthropic #JacobCoxon