IA apresenta ‘risco de extinção’ no mesmo nível de pandemias e guerra nuclear, alertam executivos de tecnologia

Mais de 350 pessoas, incluindo executivos da OpenAI e do Google, assinaram uma declaração emitindo um alerta sobre a tecnologia.

Executivos de tecnologia e cientistas de inteligência artificial estão emitindo um alerta sobre a IA, afirmando em uma declaração conjunta na terça-feira (30) que a tecnologia representa um risco de extinção tão grande quanto pandemias e guerras nucleares.

Mais de 350 pessoas assinaram uma declaração divulgada pelo Center for AI Safety, uma organização que afirma trabalhar para reduzir os riscos da IA.

“Reduzir o risco de extinção causado pela IA deve ser uma prioridade global, ao lado de outros riscos de escala social, como pandemias e guerras nucleares”, afirmou a organização.

Os signatários disseram que queriam abrir a discussão sobre os riscos mais graves da IA. Sam Altman, diretor executivo da OpenAI, empresa que desenvolveu o ChatGPT, e Mira Murati , diretora de tecnologia da empresa, estão entre os que assinaram o comunicado. 

Outros signatários incluíram Kevin Scott , diretor de tecnologia da Microsoft; os executivos de IA do Google, Lila Ibrahim e Marian Rogers; e Angela Kane, ex-alta representante das Nações Unidas para assuntos de desarmamento. Líderes do Skype e Quora também assinaram a declaração.

A indústria de tecnologia expressou entusiasmo em relação à IA, mas também há temores de que a tecnologia possa sair de controle. 

Críticos têm aumentado seus apelos para a regulamentação da IA desde que a OpenAI lançou o ChatGPT no ano passado, afirmando que a tecnologia representa ameaças incalculáveis para a humanidade.

As ações de IA dispararam nos últimos meses, à medida que os investidores apostam no que acreditam ser uma nova era da computação. 

A Nvidia, empresa de semicondutores que desenvolve tecnologia de IA, tornou-se na terça-feira a primeira fabricante de chips a atingir uma avaliação de US$ 1 trilhão, juntando-se à Apple, Microsoft, Amazon e Alphabet, controladora do Google, na lista das empresas trilionárias do mundo.

Especialistas em IA e executivos de tecnologia, incluindo Elon Musk, assinaram uma carta em março pedindo que os desenvolvedores de IA pausassem seu trabalho na tecnologia. 

Eles afirmaram que uma moratória de pelo menos seis meses daria tempo à indústria para estabelecer padrões de segurança para o design da IA e para conter os potenciais danos das tecnologias de IA mais arriscadas.

Os signatários disseram na terça-feira que, embora o público esteja reconhecendo os riscos da IA, há mais desafios a serem discutidos. 

Eles também queriam “criar conhecimento comum sobre o número crescente de especialistas e figuras públicas que também levam a sério alguns dos riscos mais graves da IA avançada”.

A declaração online oferece a opção para cientistas de IA, professores, executivos e líderes também assinarem.

Essencialmente, inteligência artificial se refere à capacidade de um computador aprender a partir de grandes quantidades de dados e posteriormente imitar respostas humanas.

A indústria de tecnologia vem desenvolvendo IA há anos, mas a tecnologia se tornou mais difundida em novembro, quando a OpenAI lançou o ChatGPT. 

O chatbot gratuito pode responder rapidamente a quase qualquer pergunta, permitindo que os usuários gerem respostas para problemas no trabalho e na escola. 

No entanto, as respostas do ChatGPT às vezes estão incorretas. Os defensores da tecnologia afirmam que ela tem o potencial de transformar indústrias e redefinir partes da força de trabalho.

O lançamento do ChatGPT desencadeou uma corrida entre empresas de tecnologia como Google e Microsoft para lançar tecnologias semelhantes.

Líderes e executivos de tecnologia têm alertado sobre os perigos da IA, mas os signatários de terça-feira disseram que não discutiram os riscos mais urgentes.

Nos últimos meses, o governo Biden afirmou que a IA representa ameaças à segurança pública, à privacidade e à democracia, mas o governo tem autoridade limitada para regulamentá-la. 

Bill Gates disse acreditar que a IA deveria ser devidamente regulamentada, mas expressou entusiasmo em relação à tecnologia. Ele não assinou a declaração de terça-feira.

Os chefes de segurança cibernética afirmaram que existem benefícios claros da IA, mas que as promessas e os riscos da IA generativa inicial são exagerados.

(The Wall Street Journal)

(Título original: AI Poses ‘Risk of Extinction’ on Par With Pandemics and Nuclear War, Tech Executives Warn)