ChatGPT terá novas restrições sobre armas para adolescentes e poderá pausar contas

A OpenAI anunciou nesta sexta-feira (30 de outubro) que ampliará as restrições às informações sobre armas fornecidas pelo ChatGPT a adolescentes. Segundo a empresa, os limites poderão ser aplicados mesmo quando a pergunta parecer inofensiva e não houver sinais de intenção violenta.

As mudanças começarão a ser implementadas nas próximas semanas. O anúncio também inclui medidas para todos os usuários, como a possibilidade de interromper conversas que apresentem sinais de fixação em violência.

O QUE MUDA PARA ADOLESCENTES

As novas restrições abrangem informações práticas sobre armas e sistemas de segurança que possam ser utilizadas para facilitar atos violentos.

A empresa afirma ter aperfeiçoado a estimativa de idade para direcionar contas identificadas como pertencentes a menores de 18 anos à experiência com proteções específicas para adolescentes.

LIMITES PARA TODOS OS USUÁRIOS

O ChatGPT também passará a restringir detalhes sobre ataques em massa ocorridos no passado, incluindo informações sobre equipamentos utilizados e sua obtenção.

Segundo a OpenAI, continuará sendo possível buscar explicações sobre esses acontecimentos, seus impactos nas comunidades e formas de prevenção. Os limites adicionais buscam evitar respostas que favoreçam a reprodução da violência.

CONTAS PODERÃO SER PAUSADAS

Conversas que indiquem fixação em ferir outras pessoas poderão ser encerradas automaticamente. Se o comportamento se repetir em diferentes interações, a empresa poderá pausar temporariamente a conta.

A OpenAI também trabalha em notificações para responsáveis com contas vinculadas às de adolescentes quando houver uma pausa por esse motivo. O recurso foi apresentado como uma medida em desenvolvimento.