Os fãs de K-pop são conhecidos por Uma força a ser reconhecida Online, alguns fãs mantêm fortes lealdades e emoções quando se trata de artistas específicos. Nas redes sociais, alguns fãs obcecados estão usando inteligência artificial para criar o que é essencialmente fanfiction auto-inserido – vídeos assustadores e fotos deles mesmos se beijando, abraçando e fazendo diferentes tipos de amor com seus ídolos favoritos. O resultado é um boom contemporâneo e habilitado pela tecnologia na cultura dos ídolos que está levando a arte dos fãs a novas fronteiras, e muitas pessoas nas comunidades de fãs de K-pop estão compreensivelmente muito chateadas com isso.
Usuários do Reddit e de vários fóruns de K-Pop expressaram sua indignação com essas fantasias profundas e pediram a outros fãs que denunciassem aqueles que estão usando ferramentas de IA para criar vídeos não consensuais para fãs de K-Pop. em Um tópico No subreddit de K-pop sem censura, um usuário postou capturas de tela editadas de um vídeo gerado por IA por outro fã mostrando-se sendo abraçado e beijado na bochecha por Keonho do grupo masculino CORTIS, que é menor de idade. “Alguns fãs podem pensar que é inofensivo, mas se você tolerar isso, estará abrindo as portas para coisas muito piores no futuro”, escreveu o usuário do Reddit wbu_lizzie no tópico. “Os ídolos não concordaram com isso, eles são pessoas reais vivendo suas vidas, não um bando de personalidades do wattpad/ao3.”
“As pessoas estavam meio que recortando e colando isso[s] “As coisas são para sempre, mas quanto mais realistas as imagens são, mais psicologicamente perigosas elas se tornam”, escreveu o usuário Goldie_Prawn, em Outro tópico No K-pop Uncensored defende o uso de inteligência artificial. “Acho que mesmo com o Photoshop tradicional, o trabalho e a habilidade necessários fornecem um certo nível de suporte mental ao criador que não está disponível com IA.”
Vídeos falsos de IA vêm de um longo legado de conteúdo gerado por fãs que se estende além do mundo do K-pop, diz a Dra. Sarah Keith, professora da Universidade Macquarie, na Austrália, que conduziu uma extensa pesquisa sobre o fandom de K-pop. A fanfic e a arte sempre foram um elemento básico da cultura dos fãs e, embora essas criações muitas vezes ultrapassem as fronteiras dos direitos autorais, geralmente não são vistas como assustadoras ou exploradoras. Mas com o advento de ferramentas generativas de IA que podem criar rapidamente imagens e vídeos fotorrealistas de pessoas reais, Silicon Valley construiu uma solução tecnológica para a lei e as normas sociais de consentimento.
“Os fãs de K-Pop (como todos os fãs de cultura pop) sempre foram produtores ativos de material de fãs sobre seus ídolos favoritos. No entanto, estes ainda não foram ‘convencidos’ como artefatos que podem ter sido sobre os próprios ídolos”, disse Keith à 404 Media. “É um problema paralelo relacionado tanto aos fãs quanto às ferramentas de IA. Por causa desses dois fatores, há agora uma facilidade crescente para os fãs criarem grandes quantidades de conteúdo, que não respeita a integridade pessoal dos ídolos, e que pode ser distribuído on-line de maneiras que prejudicam a reputação dos ídolos (como deepfakes sexuais).”
Enquanto muitos fãs se manifestaram contra esses comportamentos assustadores, outros culparam o modelo de negócios da indústria K-Pop que incentiva uma base de fãs anti-social enquanto explora muitos artistas e fãs.
“Este é um triste efeito colateral de uma indústria que existe há anos [has] “Eles promoveram relações antissociais em seus fãs”, escreveu Serious-Wish4868 em corda Sobre os pensamentos do r/kpop sobre a sexualização de ídolos pela IA. “Quando os ídolos e as empresas constantemente pressionam você a viver suas fantasias românticas e sexuais com os ídolos em tudo que eles fazem, desde postagens nas redes sociais até interações ao vivo, o que você faz? [you] Você espera que isso aconteça?
Mas algumas agências de entretenimento que administram artistas de K-Pop – e os próprios artistas – também expressaram sua insatisfação com a situação. Membros de grupos populares de K-pop adoram BTS e Amanhã x juntos Eles se manifestaram contra o uso de IA generativa para criar simulações digitais usando imagens de artistas. Em março, a OA Entertainment, empresa fundada e representada por Jennie do Blackpink, anunciou… Ele alertou em comunicado à imprensa Começará a tomar “ações legais vigorosas, incluindo ações civis e criminais, contra quaisquer obras que violem a reputação, os direitos, os direitos de imagem e outros direitos de propriedade intelectual do artista”. A declaração veio em resposta a incidentes de assédio e perseguição envolvendo artistas, e implicava fortemente a questão do conteúdo gerado por IA, sem nomeá-lo explicitamente.
Enquanto isso, muitas empresas de talentos estão adotando ferramentas generativas de IA como forma de cortar custos em todo o setor. SM Entretenimentouma das maiores gravadoras da Coreia que representa grupos importantes como Girls Generation e Super Junior, descreveu a integração de IA generativa como uma parte fundamental de sua estratégia de negócios e, no ano passado, lançou um videoclipe inteiramente gerado por IA para o grupo feminino Aespa. Em dezembro passado, o mundo K-Pop testemunhou o lançamento de um álbum Conjunto de ídolos totalmente sintético Chama-se GLXE (pronuncia-se “galaxy”), que combina músicas geradas por IA com avatares de IA sobre-humanos.
“Eles automatizariam toda a indústria se pudessem ganhar dinheiro”, Lindsay Knuth, fã de K-pop e editora associada da Emaranhado de notícias404 Mídia disse. “Deepfakes pornográficos de ídolos infantis são um problema, assim como a (falta de resposta) da indústria para mim.”
A tolerância cultural à regressão de IA gerada por fãs varia dependendo da região e do contexto. Coreia do Sul atualmente Está em primeiro lugar no consumo de conteúdo de IAà medida que a indústria tecnológica do país trabalha para promover a adoção da tecnologia e a aceitação cultural. Contudo, nos Estados Unidos, as sondagens mostram consistentemente que a maioria Os jovens têm opiniões muito negativas sobre as ferramentas de IA e conteúdos gerados pela IA – e estão a tornar-se cada vez mais anti-IA à medida que empregos, escolas e instituições os pressionam ou forçam a utilizá-los.
Keith salienta que, embora as editoras e empresas de talentos tenham sempre sido muito ativas na proteção dos artistas e das suas reputações, só o fazem numa perspetiva de proteção do investimento. Por outro lado, os fãs em geral tendem a ser mais investidos emocionalmente e são mais propensos a defender os ídolos como seres humanos, tanto dos fãs temerosos quanto das próprias empresas.
Tal como acontece com a inteligência artificial e a tecnologia em geral, faltam salvaguardas técnicas ou legais contra a tecnologia. bastante Bem documentado dano Tornou a vergonha social um dos únicos meios de dissuasão eficazes contra o comportamento abusivo no mundo K-Pop.
“É reconfortante que muitos fãs estejam criticando publicamente o uso não consensual de IA e deepfakes, porque na ausência de barreiras técnicas para esse tipo de conteúdo, é a aceitação social que realmente importa”, disse Keith. “Então, sim, é reconfortante que muitos fãs ativos online estejam construindo uma cultura de respeito onde as imagens dos ídolos não são usadas de forma não consensual.”