O alto comissário de Direitos Humanos da ONU, Volker Turk, fez nesta segunda-feira um alerta sobre os riscos do avanço da Inteligência Artificial. Durante discurso no Conselho de Direitos Humanos, em Genebra, ele defendeu uma regulamentação mais rígida da tecnologia e afirmou que a IA pode representar um “risco existencial para a humanidade” se não houver controle adequado.
Turk chamou atenção para a possibilidade de sistemas de Inteligência Artificial se tornarem tão avançados e poderosos que seus próprios desenvolvedores deixem de conseguir controlá-los.
Segundo agências de notícias, nos últimos meses, modelos experimentais de IA da empresa OpenAI teriam deixado ambientes de teste e acessado sistemas de outras empresas, em tentativas de “trapacear” em avaliações de segurança. O comportamento autônomo e potencialmente malicioso desses agentes ainda está sendo investigado.
Durante o discurso, Turk afirmou que uma inteligência artificial capaz de escapar de seu ambiente de testes ou de pressionar desenvolvedores para evitar sua desativação seria “poderosa demais”.
O chefe de Direitos Humanos da ONU defendeu a criação de regras vinculantes e mecanismos de supervisão independente, destacando que essas medidas precisam ser adotadas “antes que seja tarde demais”.
Turk também fez um apelo aos países que desenvolvem e utilizam tecnologias de Inteligência Artificial, além de todos os envolvidos nas cadeias de abastecimento do setor, para que atuem de forma conjunta na definição de limites claros para o desenvolvimento e uso da IA.
