Quais os limites éticos e legais no uso de deepfake? (2024)

A campanha de 70 anos da Volkswagen traz a recriação de Elis Regina, morta em 1982, ao lado de sua filha, Maria Rita, cantando o sucesso Como Nossos Pais.

Acessibilidade

O vídeo publicitário da AlmapBBDO, desenvolvido para a Volkswagen, publicado nesta terça-feira (4) como um exemplo de aplicação de deepfake na publicidade, reacendeu as discussões sobre os limites do uso de inteligência artificial.

Leia também:

  • Vale a pena usar deepfake para nos emocionarmos com Elis Regina em uma campanha?

A tecnologia, que por muito tempo ficou associada a fake news e golpes na internet, também tem aplicações consideradas éticas e legais e consiste em uma junção de técnicas que sintetiza imagens e sons por meio de IA. A campanha de 70 anos da marca automotiva traz a recriação de Elis Regina, morta em 1982, ao lado de sua filha, Maria Rita, cantando o sucesso Como Nossos Pais.

Veja 4 usos legais para deepfake:

  • Quais os limites éticos e legais no uso de deepfake? (2)

    Criação de paródias
    “Ou seja, a recriação de uma obra já existente, a partir de um ponto de vista predominantemente crítico, irônico ou satírico é expressamente permitido na Lei de Direitos Autorais”

  • Quais os limites éticos e legais no uso de deepfake? (3)

    Ressuscitar Personalidades
    “Desde que autorizado pela família e pelos detentores de eventuais direitos patrimoniais desta personalidade, como foi no caso da Elis Regina, esse uso é ético, permitido e pode, inclusive, prolongar o tempo de notoriedade de um artista”

  • Quais os limites éticos e legais no uso de deepfake? (4)

    #1
    Inteligência artificial (IA)
    É uma tecnologia que está se tornando cada vez mais sofisticada e usada em uma ampla variedade de aplicações, desde o atendimento ao cliente até a medicina.

  • Quais os limites éticos e legais no uso de deepfake? (5)

    Saúde Pública
    “Desde que esse uso esteja em conformidade com a Lei de Direitos Autorais (no caso do uso de obras literárias para o treinamento), não haja a extrapolação do suso (ou seja, a obra não seja deturpada e nenhum direito moral seja ferido) e haja a anonimização de dados sensíveis esse uso é ético”

  • Quais os limites éticos e legais no uso de deepfake? (6)
  • Quais os limites éticos e legais no uso de deepfake? (7)
  • Quais os limites éticos e legais no uso de deepfake? (8)
  • Quais os limites éticos e legais no uso de deepfake? (9)

Criação de paródias
“Ou seja, a recriação de uma obra já existente, a partir de um ponto de vista predominantemente crítico, irônico ou satírico é expressamente permitido na Lei de Direitos Autorais”

Usos legais de deepfake

Bruno Sartori, pioneiro no uso de deepfake no Brasil, aponta as quatro aplicações consideradas legais no uso de deepfake atualmente. “Peças humorísticas com sátiras do cotidiano de figuras públicas como políticos desde que isso esteja explicito no material. A personalização de conteúdo: por exemplo, o usuário pode escolher com qual voz determinada música será cantada. Em campanhas publicitárias, como foi esse caso da Elis Regina. Além disso, existem outros segmentos como o da saúde, onde é possível treinar a rede neural para aprender a identificar uma determinada mancha em um exame.”

“Vejo como aplicações éticas de deepfake: criação de paródias, ou seja, a recriação de uma obra já existente, a partir de um ponto de vista predominantemente crítico, irônico ou satírico, algo que é expressamente permitido em nossa Lei de Direitos Autorais. ‘Ressuscitar’ personalidades mortas desde que autorizado pela família e pelos detentores de eventuais direitos patrimoniais desta personalidade, como foi no caso da Elis Regina, esse uso é ético, permitido e pode, inclusive, prolongar o tempo de notoriedade de um artista. Uso para criação de obras originais, apesar de ainda haver uma discussão acerca da proteção de obras criadas por inteligência artificial generativa (nascem em domínio público?) o uso de IA para a criação de obras originais é ético e não extrapola os limites da Lei Brasileira”, explica Julia Pazos, sócia e head da área de Propriedade Intelectual, Inovação, Tecnologia e Privacidade de Dados de DSMA Azulay.

Usos ilegais da deepfake

Sartori destaca algumas aplicações nocivas da deepfake e já muito comuns. “Criação de p*rnografia com o uso de rostos de terceiros em vídeos. As fake news que, em muitos casos, se tornaram sinônimo de deepfake, o uso comercial sem autorização, por exemplo, a inserção de atores e atrizes em conteúdos sem a devida autorização. Por fim, outro uso indevido de deepfake é direcionado a golpes como na recriação de vozes e rostos para enganar terceiros”.

Veja 4 usos ilegais para deepfake:

  • Quais os limites éticos e legais no uso de deepfake? (10)

    Fake news
    “O uso da imagem e voz de uma pessoa, sem sua autorização, já é por si só uma ofensa a um direito garantido pela constituição. Quando se trata de veiculação de notícias falsas essa ofensa é ainda mais grave e o uso da tecnologia se torna não ético”

  • Quais os limites éticos e legais no uso de deepfake? (11)

    Violação de música
    “Temos visto vários casos de duetos ou feats entre cantores que, na verdade, foram feitos por IA. Drake e The Weeknd, The Beatles e até cantores brasileiros. Essa prática é uma violação não só do direito sobre a voz do cantor (que só pode ser usada com sua autorização prévia e expressa), mas também à música original que, sem sua autorização, é modificada pela tecnologia numa clara infração a lei de direitos autorais brasileira”

  • Quais os limites éticos e legais no uso de deepfake? (12)

    Deepfake de Atores
    “Caso não haja a sua aprovação prévia e expressa o uso da tecnologia para reprodução de sua imagem é uma violação do direito garantido em nossa constituição e, portanto, um uso não ético”

  • Quais os limites éticos e legais no uso de deepfake? (13)

    Direitos Morais
    “De acordo com a nossa Lei de Direitos Autorais o autor tem o direito moral de manter a sua obra íntegra. Muitas vezes o uso destas tecnologias acaba por editar obras (inserir, excluir ou modificar parte da obra) sem autorização do autor o que constitui um crime contra os seus direitos morais”

  • Quais os limites éticos e legais no uso de deepfake? (14)
  • Quais os limites éticos e legais no uso de deepfake? (15)
  • Quais os limites éticos e legais no uso de deepfake? (16)
  • Quais os limites éticos e legais no uso de deepfake? (17)

Fake news
“O uso da imagem e voz de uma pessoa, sem sua autorização, já é por si só uma ofensa a um direito garantido pela constituição. Quando se trata de veiculação de notícias falsas essa ofensa é ainda mais grave e o uso da tecnologia se torna não ético”

“O uso da imagem e voz de uma pessoa, sem sua autorização, já é por si só uma ofensa a um direito garantido pela constituição. Quando se trata de veiculação de notícias falsas essa ofensa é ainda mais grave e o uso da tecnologia se torna não ético. Temos visto vários casos de duetos ou feats entre cantores que, na verdade, foram feitos por IA. Drake e The Weeknd, The Beatles e até cantores brasileiros. Essa prática é uma violação não só do direito sobre a voz do cantor (que só pode ser usada com sua autorização prévia e expressa), mas também à música original que, sem sua autorização, é modificada pela tecnologia numa clara infração a lei de direitos autorais brasileira. No caso de atores em filmes, caso não haja a sua aprovação prévia e expressa o uso da tecnologia para reprodução de sua imagem é uma violação do direito garantido em nossa constituição e, portanto, um uso não ético”, destaca Julia.

A advogada reforça que “a IA e deepfake têm o potencial de ser extremamente úteis e, ao mesmo tempo, violar diversos direitos. Por conta disso, as implicações destas tecnologias têm sido amplamente debatidas ao redor do mundo, especialmente no que diz respeito ao impacto na privacidade de dados pessoais e nos direitos autorais. A Organização Mundial da Propriedade Intelectual iniciou, em 2019, inclusive, um largo e extenso debate sobre os aspectos de proteção da propriedade intelectual nestas tecnologias.”

Leia também:

  • O que é deepfake e quais os usos possíveis dessa tecnologia?

Deepfake é uma técnica de inteligência artificial que combina e manipula elementos de diferentes imagens ou vídeos para criar falsificações realistas. Essa tecnologia é capaz de trocar rostos, vozes e até mesmo criar cenas fictícias convincentes.

Quais os limites éticos e legais no uso de deepfake? (2024)

FAQs

Is it legal to deepfake someone? ›

Is it illegal to make a deepfake? The legality of creating deepfakes largely depends on the intent and usage. Nonconsensual deepfake p*rnography, defamatory deepfakes, or those causing emotional distress can be illegal. The creation of deepfakes involving public figures can also trigger legal implications.

What are the negative effects of deepfakes? ›

Not only has this technology created confusion, skepticism, and the spread of misinformation, deepfakes also pose a threat to privacy and security. With the ability to convincingly impersonate anyone, cybercriminals can orchestrate phishing scams or identity theft operations with alarming precision.

What are the ethical issues with deepfakes? ›

Deepfakes are a subset of AI outputs, utilizing deep learning techniques like generative adversarial networks (GANs) to generate highly realistic but fabricated content, often raising ethical and legal concerns related to privacy, intellectual property, consent and the spread of misinformation.

What are the arguments against deepfakes? ›

Misinformation and Manipulation: Creators utilize Deepfake technology to make convincing fake videos or audio recordings, leading to the spread of misinformation, and manipulation of public opinion. Thus it has the potential to damage reputations, scam people, and create conflicts.

What are the legal challenges of deepfakes? ›

The emergence of deepfake technology also raises concerns regarding the admissibility of evidence in legal proceedings, as the ability to fabricate convincing audio-visual material undermines the reliability of such evidence, potentially leading to miscarriages of justice and undermining the rule of law.

What states made deepfakes illegal? ›

States that have passed laws prohibiting, or requiring disclosure of, election-related deepfakes: California (2019 and 2022) Indiana (2024) Michigan (2023)

Are deepfakes an invasion of privacy? ›

A deepfake may also breach IP rights e.g., by unlawfully exploiting a specific line, trademark or label. Furthermore, deepfakes may cause more severe problems such as violation of the human rights, right of privacy, personal data protection rights apart from the copyright infringements.

Are deepfakes really a security threat? ›

Even scarier are the AI-generated deepfakes that can mimic a person's voice, face and gestures. New cyber attack tools can deliver disinformation and fraudulent messages at a scale and sophistication not seen before. Simply put, AI-generated fraud is harder than ever to detect and stop.

Can deepfakes be beneficial? ›

However, deepfakes have shown potential for beneficial applications in the healthcare industry. From improving the accuracy of AI algorithms to addressing data privacy concerns, deepfake technology has the power to revolutionize healthcare practices.

Is deepfakes banned? ›

Laws Against Child Sexual Abuse Material (CSAM)

The use of facial manipulation of deepfakes to create or distribute child sexual abuse material is unequivocally illegal and falls under strict CSAM laws. These laws are clear and provide a firm legal basis for prosecuting such offenses.

Why should we be worried about deepfakes? ›

Deepfakes are creating havoc across the globe, spreading fake news and p*rnography, being used to steal identities, exploiting celebrities, scamming ordinary people and even influencing elections.

How can we protect against deepfakes? ›

Limit the amount of data available about yourself, especially high-quality photos and videos, that could be used to create a deepfake. You can adjust the settings of social media platforms so that only trusted people can see what you share.

What are the limitations of deep fake? ›

Relatedly, it is worth noting that, even if a video is not a deepfake, it may nonetheless be manipulated using less sophisticated techniques (Harris, 2021). Technologies designed solely to detect deepfakes will fail to detect, and potentially promote credulity toward, videos that are misleading in other ways.

What are the risks of deepfakes? ›

Threat actors are already creating deepfake images, audio, and video content with lifelike facsimiles of real people. Celebrities, the public, and businesses are being targeted. Fake imagery is being used to cause reputational harm, exact revenge, and carry out fraud.

Are deepfakes a crime? ›

Beginning in 2019, several states passed legislation aimed at the use of deepfakes. These laws do not apply exclusively to deepfakes created by AI. Rather, they more broadly apply to deceptive manipulated audio or visual images, created with malice, that falsely depict others without their consent.

Is making deepfakes a crime? ›

Under the Online Safety Act, which was passed last year, the sharing of deepfakes was made illegal. The new law will make it an offence for someone to create a sexually explicit deepfake - even if they have no intention to share it but "purely want to cause alarm, humiliation, or distress to the victim", the MoJ said.

What is the penalty for deepfakes? ›

Political Deepfakes (TXSB 751): Class A misdemeanor, punishable by up to a year in jail and fines up to $4,000. p*rnography Deepfakes (TXSB 1361): Class A misdemeanor, punishable by up to a year in jail and fines up to $4000.

Are deepfakes identity theft? ›

By leveraging artificial intelligence, deepfakes enable fraudsters to clone your face, voice, and mannerisms to steal your identity.

Can deepfake be detected? ›

According to a recent study, humans can detect deepfake speech only 73% of the time. This study, out of the University of London with 529 participants, was one of the first to assess humans' ability to detect artificially-generated speech in a language other than English.

Top Articles
Latest Posts
Article information

Author: Catherine Tremblay

Last Updated:

Views: 6349

Rating: 4.7 / 5 (47 voted)

Reviews: 94% of readers found this page helpful

Author information

Name: Catherine Tremblay

Birthday: 1999-09-23

Address: Suite 461 73643 Sherril Loaf, Dickinsonland, AZ 47941-2379

Phone: +2678139151039

Job: International Administration Supervisor

Hobby: Dowsing, Snowboarding, Rowing, Beekeeping, Calligraphy, Shooting, Air sports

Introduction: My name is Catherine Tremblay, I am a precious, perfect, tasty, enthusiastic, inexpensive, vast, kind person who loves writing and wants to share my knowledge and understanding with you.