Lingo Telecom retransmitiu uma mensagem falsa de Biden aos eleitores de New Hampshire em janeiro, pedindo que não comparecessem às primárias democratas. A FCC identificou o consultor político Steve Kramer como a pessoa por trás das chamadas de IA generativas e propôs anteriormente que Kramer pagasse uma multa separada de US$ 6 milhões.
A Lingo Telecom, concordou com o acordo para resolver as medidas de execução tomadas pela Comissão Federal de Comunicações, que inicialmente havia buscado uma multa de US$ 2 milhões (R$ 10.967.400,00).
Continua depois da Publicidade
O caso é visto por muitos como um exemplo inicial inquietante de como a IA pode ser usada para influenciar grupos de eleitores e a democracia como um todo.
Enquanto isso, Steve Kramer, consultor político que orquestrou as ligações, ainda enfrenta uma multa proposta pela FCC de US$ 6 milhões, bem como acusações criminais estaduais.
As mensagens telefônicas foram enviadas a milhares de eleitores de New Hampshire em 21 de janeiro. Elas continham uma voz semelhante à de Biden, sugerindo falsamente que votar nas primárias presidenciais do estado os impediria de votar nas eleições gerais de novembro.
Steve Kramer está sentado na quarta-feira, 5 de junho de 2024, no Tribunal Superior, em Laconia, NH, durante audiência de acusação – Foto: Steven Senne, Pool/AP
Kramer, que pagou um mágico autointitulado “nômade digital” para criar a gravação, disse à Associated Press no início deste ano que não estava tentando influenciar o resultado das primárias, mas queria destacar os perigos potenciais da IA e estimular os legisladores a agirem.
Se for considerado culpado, Kramer poderá pegar uma pena de prisão de até sete anos pela acusação de supressão de eleitores e uma pena de até um ano pela acusação de se passar por candidato.
A FCC disse que, além de concordar com a multa civil, a Lingo Telecom concordou com regras e requisitos rigorosos de autenticação de identificação de chamadas e em verificar mais detalhadamente a precisão das informações fornecidas por seus clientes e provedores upstream.
“Cada um de nós merece saber que a voz na linha é exatamente quem eles dizem ser”, disse a presidente da FCC, Jessica Rosenworcel, em uma declaração. “Se a IA estiver sendo usada, isso deve ficar claro para qualquer consumidor, cidadão e eleitor que a encontrar. A FCC agirá quando a confiança em nossas redes de comunicação estiver em jogo.”
A Lingo Telecom não respondeu imediatamente a um pedido de comentário. A empresa havia dito anteriormente que discordava fortemente da ação da FCC, chamando-a de uma tentativa de impor novas regras retroativamente.
O grupo de defesa do consumidor sem fins lucrativos Public Citizen elogiou a FCC por sua ação. O co-presidente Robert Weissman disse que Rosenworcel acertou “exatamente” ao dizer que os consumidores têm o direito de saber quando estão recebendo conteúdo autêntico e quando estão recebendo deepfakes gerados por IA. Weissman disse que o caso ilustra como tais deepfakes representam “uma ameaça existencial à nossa democracia”.
O chefe do Departamento de Fiscalização da FCC, Loyaan Egal, disse que a combinação de falsificação de identificação de chamadas e tecnologia de clonagem de voz de IA generativa representa uma ameaça significativa “seja nas mãos de agentes nacionais que buscam vantagem política ou de adversários estrangeiros sofisticados que conduzem atividades de influência maligna ou interferência eleitoral”.