O AI Action Summit em Paris é um dos eventos mais importantes do ano. Nesse encontro, políticos e executivos do setor de tecnologia se reúnem para discutir o futuro da inteligência artificial (IA) e a necessidade de regulamentação.
Sam Altman, um dos líderes da OpenAI, compartilhou uma visão otimista sobre o futuro do ChatGPT. Ele acredita que a IA pode trazer benefícios significativos, mesmo quando surgirem desafios como a substituição de empregos por máquinas. Porém, análises apontaram que Altman minimiza os riscos associados ao avanço da IA.
Um ponto central no AI Action Summit foi a assinatura de uma declaração internacional que estabelece princípios para o desenvolvimento seguro da IA. A segurança da IA é essencial, especialmente quando alcançarmos a inteligência artificial geral (AGI) e a superinteligência, que podem ter impactos profundos em nossas vidas.
Os Estados Unidos e o Reino Unido decidiram não assinar essa declaração. Por outro lado, outros países, incluindo a China, se comprometeram a seguir princípios “abertos”, “inclusivos” e “éticos” no desenvolvimento de produtos de IA.
A ausência da assinatura dos EUA e do Reino Unido levantou questões. Os representantes desses países não explicaram os motivos de sua decisão. A postura dos Estados Unidos não é surpreendente. No entanto, a falta de clareza do Reino Unido parece contradizer as preocupações expressas por sua população em pesquisas recentes sobre os riscos da IA.
Antes da declaração, o vice-presidente JD Vance dos EUA afirmou que o país se opõe a regulamentações excessivas. Para ele, excessivas regras poderiam “destruir uma indústria transformadora que está apenas começando”. Ele destacou que a administração anterior não perderia a chance de explorar as oportunidades da IA.
Enquanto isso, o presidente francês Emmanuel Macron defendeu a criação de regras para a IA. Ele afirmou que limitações são necessárias para que a tecnologia avance de maneira segura. Em contrapartida, Macron usou deepfakes para divulgar o AI Action Summit, postando vídeos onde seu rosto foi adicionado a várias cenas, incluindo um show de TV.
Como alguém que usa o ChatGPT Plus na Europa e não tem acesso imediato às inovações da OpenAI por conta das regras locais, é estranho ver Macron promovendo segurança da IA ao utilizar essas tecnologias enganosas para fins de marketing. Deepfakes podem ser uma ferramenta poderosa para enganar as pessoas e, por isso, a segurança na IA deve ser uma prioridade.
A recusa dos EUA e do Reino Unido em assinar a declaração é preocupante. Nos últimos meses, a OpenAI tem demitido engenheiros responsáveis pela segurança da IA, o que causa apreensão sobre a abordagem do governo em relação à regulamentação.
Não se pode afirmar que as empresas de IA estejam programando máquinas para eliminar a humanidade em um futuro próximo. No entanto, é necessário que existam algumas leis ou diretrizes para garantir a segurança nessa área em rápida evolução.
Vale lembrar que a declaração assinada no AI Action Summit não é uma regra obrigatória, mas sim um acordo amigável. Afirmações de que um país irá desenvolver IA de forma “aberta” e “ética” soam bem, mas não garantem a prática. A assinatura da China é um caso emblemático, pois seu sistema de censura real-time, como o DeepSeek, fere os princípios éticos que a declaração pretende abraçar.
Além disso, o DeepSeek pode ser vulnerável a invasões que expõem dados de usuários, inviabilizando a segurança pretendida. O sistema pode até ser usado para solicitar informações de maneira infeliz, tornando-se menos confiável do que suas alternativas.
É evidente que eventos como o AI Action Summit são essenciais para que o mundo alinhe suas ideias sobre segurança na IA e estabeleça formas de aplicar regras e diretrizes. O receio é que, no futuro, uma IA avançada escape do controle humano e atue de forma autônoma, como nos filmes de ficção científica.
Por outro lado, qualquer pessoa com o hardware certo pode desenvolver sua própria IA avançada em casa. Esse cenário representa um risco, pois, mesmo com acordos internacionais, pode surgir uma inteligência desajustada que não se encaixa nas diretrizes estabelecidas.
Em resumo, a importância do AI Action Summit vai além das assinaturas. O evento representa uma oportunidade para discutir o futuro da IA e buscar um consenso sobre como lidar com seus desafios e riscos. Portanto, são necessários mais encontros como esse nos próximos anos, para que se busque um entendimento comum sobre a segurança e a regulamentação da IA.
