A OpenAI, empresa por trás do ChatGPT, anunciou o desenvolvimento de uma ferramenta de clonagem de voz chamada Voice Engine. A novidade tem a capacidade de replicar a voz de uma pessoa com base em uma amostra de apenas 15 segundos de sua fala. No entanto, a empresa está adotando uma abordagem cautelosa em relação à disponibilização da tecnologia para o público em geral e, até o momento, não anunciou o lançamento.
A empresa destacou os benefícios obtidos nas primeiras utilizações do Voice Engine. A ferramenta mostrou-se eficaz como um auxiliar de leitura para crianças, trabalhando em conjunto com o ChatGPT para fornecer respostas personalizadas aos alunos em escolas.
Também foi testada com sucesso na tradução de voz em podcasts, mantendo as características distintivas do locutor original. Outra aplicação é o suporte às pessoas com dificuldades na fala, fornecendo vozes únicas e naturais, em vez de vozes robóticas.
No entanto, a startup anunciou que pretende manter a ferramenta sob estrito controle até que medidas de segurança adequadas sejam implementadas para prevenir o uso indevido, como fraudes assistidas por imitação de voz não autorizada ou deepfakes. Além disso, a companhia reconheceu os riscos inerentes à tecnologia, incluindo o potencial de manipulação política, especialmente em ano de eleição em diversos países do mundo, como Estados Unidos, Rússia, Índia, Brasil e México, além das eleições Europeias.
“Estamos adotando uma abordagem cautelosa e informada para uma divulgação mais ampla devido ao potencial de uso indevido de voz sintética. Esperamos iniciar um diálogo sobre a utilização responsável de vozes sintéticas e sobre como a sociedade pode adaptar-se a estas novas capacidades“, disse a OpenAI em comunicado sobre a tecnologia de voz.
Além disso, a startup considera estabelecer uma “lista de vozes proibidas” para evitar a criação de imitações de vozes muito semelhantes a figuras proeminentes. Essas medidas visam garantir que a tecnologia seja utilizada de maneira ética e responsável, minimizando os riscos associados ao seu potencial de abuso.
Leia também: