Na véspera da Cúpula de Seul sobre Inteligência Artificial, realizada na Coreia do Sul, as principais empresas globais de tecnologia anunciaram novos compromissos voluntários para garantir a segurança no desenvolvimento de IA. Este evento é uma continuação da conferência realizada em novembro no Reino Unido, e reúne líderes mundiais e representantes do setor tecnológico.
Entre as empresas que aderiram aos compromissos estão gigantes como Amazon, Google, Meta, Microsoft, OpenAI, xAI de Elon Musk e a chinesa Zhipu AI. Elas se comprometeram a desativar seus sistemas de ponta caso não consigam controlar riscos extremos, uma medida que visa evitar possíveis danos causados por tecnologias descontroladas.
Os compromissos anunciados se baseiam na Declaração de Bletchley, firmada na primeira Cúpula de Segurança de IA, organizada pelo Reino Unido. As empresas se comprometeram a avaliar os riscos de seus modelos antes de sua implementação e a definir limites para riscos considerados intoleráveis, garantindo que medidas de mitigação sejam aplicadas.
Durante a abertura da cúpula, o secretário-geral da ONU, Antonio Guterres, destacou a importância de proteções universais e diálogos regulares sobre IA. Ele alertou sobre os riscos de desinformação, vigilância em massa e armas autônomas letais, enfatizando a necessidade de evitar um futuro distópico controlado por poucos.
A cúpula também discutiu os compromissos voluntários assumidos anteriormente por empresas como Amazon, Anthropic, Google, Inflection AI, Meta, Microsoft e OpenAI. No entanto, ainda há incertezas sobre como essas empresas serão responsabilizadas caso não cumpram suas promessas.
O presidente sul-coreano Yoon Suk Yeol e o primeiro-ministro britânico Rishi Sunak participaram virtualmente do evento, junto com outros líderes mundiais e representantes de organizações internacionais. A secretária de Ciências do Reino Unido, Michelle Donelan, destacou a importância de ações conjuntas entre empresas e países.
As discussões na cúpula não se limitaram aos riscos da IA, mas também abordaram os benefícios potenciais da tecnologia. Os participantes enfatizaram a necessidade de um desenvolvimento equilibrado que contribua positivamente para a humanidade.
A Cúpula de Seul sobre IA representa um passo significativo na busca por um desenvolvimento seguro e transparente da inteligência artificial, refletindo a crescente preocupação global com os impactos dessa tecnologia emergente.
