Злонамеренное использование политических дипфейков и попытки их нейтрализации в странах Латинской Америки

Обложка

Цитировать

Полный текст

Открытый доступ Открытый доступ
Доступ закрыт Доступ предоставлен
Доступ закрыт Только для подписчиков

Аннотация

Технология дипфейк (Deepfake) произвела революцию в области искусственного интеллекта и коммуникационных процессов, создав настоящую угрозу распространения дезинформации среди целевых аудиторий на цифровых платформах. Злонамеренное использование политических дипфейков активно распространилось в период 2017—2023 гг. Атакам с элементами доксинга подверглись политические лидеры Аргентины, Бразилии, Колумбии и Мексики. Поддельные видео, в которых демонстрировались лица политиков, подрывали их репутацию, снижая доверие электората. Эти видео стали передовым инструментом манипулирования общественным мнением. Целая серия политических дипфейков поставила перед странами латиноамериканского региона вопрос о необходимости разработки своевременного правового регулирования. Цель данного исследования — выявить угрозы, связанные с неконтролируемым применением политического дипфейка в государствах Латинской Америки. В соответствии с поставленной целью автор анализирует политические дипфейки; выделяет основные угрозы, возникающие в ходе применения технологии дипфейк; рассматривает законодательные особенности их использования в странах Латинской Америки. В статье дается характеристика основных детекторов и программ по обнаружению злонамеренного использования дипфейков; в научный оборот вводится определение политический дипфейк.

Об авторах

Екатерина Алексеевна Виноградова

Российская Федерация, Москва

Список литературы

  1. Базаркина Д.Ю., Пашенцев Е.Н. Злонамеренное использование искусственного интеллекта: вызовы информационно-психологической безопасности в Латинской Америке. Социально-гуманитарные знания, М, 2020, № 4, сс. 248-260. [Bazarkina D.U., Pashentsev E.N. Zlonamerennoye ispol'zovaniye iskusstvennogo intellekta: vyzovy informatsionno-psikhologicheskoy bezopasnosti v Latinskoy Amerike. [The Malicious Use of Artificial Intelligence: Challenges to Information and Psychological Security in Latin America]. Sotsial'no-gumanitarnyye znaniya, Moscow, 2020, N 4, pp. 248-260. (In Russ.) (doi: 10.34823/SGZ.2020.4.51416).
  2. Pinheiro de Resende S.M. The effects of deepfakes on politics and on data justice issues – a perspective from Brazil and the United States. A thesis submitted for the degree of Master of Law & Technology, Tilburg, 2021, 52 p.
  3. El 70% de los latinoamericanos ignora la existencia de los DeepFake. Available at: https://www.innovaciondigital360.com/i-a/el-70-de-los-latinoamericanos-ignora-la-existencia-de-los-deepfake/ (accessed 10.10.2022).
  4. Lussier N. Nonconsensual deepfakes: detecting and regulating this rising threat to privacy. University of Idaho College of Law, L. Rev, 2022. Available at: https://digitalcommons.law.uidaho.edu/idaho-law-review/vol58/iss2/6 (accessed 21.03.2023).
  5. Gomes-Gonçalves S. Los deepfakes como una nueva forma de desinformación corporativa – una revisión de la literature. International review (Irocamm), Sevilla, 2022, Vol. 5, N 2, pp. 22-38. (DOI: dx.doi.org/10.12795/IROCAMM. 2022.v05.i02.02).
  6. Hwang T. Deepfakes. A Grounded Threat Assessment. Center for Security and Emerging Technology (CSET), Washington, 2020, 50 p.
  7. Bañuelos Capistrán J. Deepfake: la imagen en tiempos de la posverdad. Revista Panamericana De Comunicación, México, 2020, Vol. 2(1), pp. 51–61. (DOI: https://doi.org/10.21555/rpc.v0i1.2315).
  8. Nasu H. Deepfake Technology in the Age of Information Warfare. New York, 2022. Available at: https://lieber.westpoint.edu/deepfake-technology-age-information-warfare/ (accessed 26.12.2022).
  9. Ajder H., Patrini G., Cavalli F., Cullen L. The State of Deepfakes: Landscape, Threats, and Impact. 2019, 27 p. Available at: https://regmedia.co.uk/2019/10/08/deepfake_report.pdf (accessed 28.03.2022).
  10. Pantoja De Moraes C. «Deepfake» como ferramenta de manipulação e disseminação de «fakenews» em formato de vídeo nas redes sociais. Biblios, Rio de Janeiro, 2020, N 79, pp. 63-72. (doi: 10.5195/biblios.2020.864).
  11. Botha J., Pieterse H. Fake News and Deepfakes: A Dangerous Threat for 21st Century Information Security. Conference: 15t International Conference on Cyber Warfare and Security At: Old Dominion University, Norfolk, 2020. Available at: https://www.researchgate.net/publication/341454354_Fake_News_and_Deepfakes_A_Dangerous_Threat_for_21st_Century_Information_Security (accessed 14.01.2022).
  12. Martínez V. C., García Guardia M. L., Padilla Castillo G. Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales. CIC. Cuadernos de Información y Comunicación, Madrid, 2020, N 25, pp. 165-181. (DOI: https://doi.org/10.5209/ciyc.68762).
  13. Ray A. Disinformation, Deepfakes and Democracies: The Need for Legislative Reform. The University of New South Wales law journal, Sydney, 2021, Vol. 44(3):983, pp. 983-1013. (doi: 10.53637/DELS2700).
  14. Byman D. L., Gao C., Meserole C., Subrahmanian V.S. Deepfakes and international conflict. 2023, 22p. Available at: https://www.brookings.edu/research/deepfakes-and-international-conflict/ (accessed 21.01.2023).
  15. Helmus T. C. Artificial Intelligence, Deepfakes, and Disinformation. 2022, 24 p. Available at: https://www.rand.org/pubs/perspectives/PEA1043-1.html (accessed 3.01.2023).
  16. Лексютина Я.В. Злонамеренное использование дипфейков: риски информационно-психологической безопасности Японии. Японские исследования, М, 2021, № 3, сс. 90-101. [Leksyutina Y.V. Zlonamerennoye ispol'zovaniye dipfeykov: riski informatsionno-psikhologicheskoy bezopasnosti Yaponii. [Malicious use of dipfakes: information-psychological security risks for Japan]. Yaponskiye issledovaniya, Moscow, 2021, N 3, pp. 90-101. (In Russ.). (doi: 10.24412/2500-2872-2021-3-90-101).
  17. Игнатовский Я. Р., Иванов В.Г. Deepfakes: перспективы применения в политике и угрозы для личности и национальной безопасности. Вестник Российского университета дружбы народов. Серия: Государственное и муниципальное управление, М, 2020, Т.7, № 4, сс. 379-386. [Ignatovskiy Y. R., Ivanov V.G. Dipfeyki: primeneniye v sfere politiki i vozdeystviya na lichnuyu zhizn' i natsional'nuyu bezopasnost'. [Deepfakes: Prospects for Political Use and Threats to the Individual and National Security]. Vestnik Rossiyskogo universiteta druzhby narodov. Seriya: Gosudarstvennoye i munitsipal'noye upravleniye, Moscow, 2020, Vol. 7, N 4, pp. 379-386. (In Russ.). (doi: 10.22363/2312-8313-2020-7-4-379-386).
  18. Фалеев М.А., Ситдикова М.А., Нечай Е.Е. Дипфейк как феномен политической коммуникации. Вестник ЗабГУ, Чита, 2021, Т. 27, № 6, сс. 101-106. [Faleyev M.A., Sitdikova M.A., Nechay Ye.Ye. Dipfeyk kak fenomen politicheskoy kommunikatsii. [Deepfake as a phenomenon of political communication]. Vestnik ZabGU, Chita, 2021, Vol. 27, N 6, pp. 101-106. (In Russ.) doi: 10.21209/2227-9245-2021-27-6-101-106).
  19. López-López P.C., Dagatti M., Mendoza M. El impacto de las noticias falsas y la desinformación en las democracias de América Latina y el Caribe. Cuadernos del Centro de estudios de diseño y comunicación. Palermo, 2022, Vol. 161, pp. 11-18. (DOI: https://doi.org/10.18682/cdc.vi161.6975).
  20. Just Joking. Deepfakes, satire, and the politics of synthetic media. Cambridge, 2022. 48p. Available at: https://cocreationstudio.mit.edu/wp-content/uploads/2021/12/JustJoking.pdf (accessed 25.12.2022).
  21. López J. Tragic Realism: How to regulate Deepfakes in Colombia? Latin American Law Review, Bogotá, 2022, N. 8, pp. 125-145 (DOI:https://doi.org/10.29263/lar08.2022.08).
  22. Цветкова Н. А., Гришанина Т. А. Цифровая сила в странах Латинской Америки: хэштеги и дипфейки как политические инструменты. Латинская Америка, М, 2023, №3, сс. 21-33. [Tsvetkova N. A., Grishanina T. A. Tsifrovaya sila v stranakh Latinskoy Ameriki: kheshtegi i dipfeyki kak politicheskiye instrumenty [Digital Power in Latin America: Hashtags and deepfakes as political tools]. Latinskaya Amerika, Moscow, 2023, N 3, pp. 21-33. (In Russ.). (doi: 10.31857/S0044748X0024414-4).
  23. Gandulfo D. Tenemos que hablar del impacto de las fakes news en las democracias latinoamericanas. Available at: https://www.iade.org.ar/noticias/tenemos-que-hablar-del-impacto-de-las-fakes-news-en-las-democracias-latinoamericanas (accessed 16.02.2023).
  24. The spread of true and false news online. Available at: https://www.science.org/doi/10.1126/science.aap9559 (accessed 19.02.2023).
  25. Martínez L. Es falso el video de Alberto Fernández en el que habla como «borracho»: las imágenes fueron manipuladas. Available at: https://chequeado.com/el-explicador/es-falso-el-video-de-alberto-fernandez-en-el-que-habla-como-borracho-las-imagenes-fueron-manipuladas/ (accessed 19.10.2022).
  26. El Gobierno presentó los ejes de un programa de Desarrollo. Plan 2030 para crear dos millones de empleos. Available at: https://www.pagina12.com.ar/411724-plan-2030-para-crear-dos-millones-de-empleos (accessed 17.10.2022).
  27. Pacheco V. El primer deepfake electoral muestra números falsos en la encuesta para president. Available at: https://www.showmetech.com.br/deepfake-das-eleicoes-mostra-pesquisa-falsa/ (accessed 17.12.2022).
  28. Fact Check-Video de la renuncia de Duque a su cargo es de 2018, cuando era senador. Available at: https://www.reuters.com/article/factcheck-ivanduque-renuncia-idUSL1N2MY1IB (accessed 8.12.2022).
  29. Виноградова Е.А. Технологии искусственного интеллекта и нарастающие киберугрозы в Латинской Америке. Латинская Америка, М, 2023, № 3, сс. 34-48. [Vinogradova E.A. Tekhnologii iskusstvennogo intellekta i narastayushchiye kiberugrozy v Latinskoy Amerike. [Artificial intelligence technologies and the rise of cyber threats in Latin America]. Latinskaya Amerika, Moscow, 2023, N 3, pp. 34-48. (In Russ.). (doi: 10.31857/S0044748X0024415-5).
  30. Los deepfakes y cómo los medios están combatiendo la desinformación creada con Inteligencia Artificial. Available at: https://www.elnacional.com/ciencia-tecnologia/los-deepfakes-y-como-los-medios-estan-combatiendo-la-desinformacion-creada-con-inteligencia-artificial/ (accessed 20.12.2022).
  31. Gaceta Oficial Nº 5.763 Extraordinario de la República Bolivariana de Venezuela. 16 de marzo de 2005. Available at: http://www.annaobserva.org/observatorio/wp-content/uploads/2018/03/C%C3%93DIGO-PENAL-DE-VENEZUELA.pdf (accessed 23.03.2022).
  32. Partidos políticos uruguayos firmaron compromiso contra generación y difusión de noticias falsas. Available at: https://www.gub.uy/presidencia/comunicacion/noticias/partidos-politicos-uruguayos-firmaron-compromiso-contra-generacion-difusion (accessed 23.11.2022).
  33. Ley Especial de Ciberdelitos - Asamblea Nacional de Nicaragua. Available at: http://legislacion.asamblea.gob.ni/SILEG/Iniciativas.nsf/7B68B3A67F9B9C65062585F10059EFF6/$File/LEY%20ESPECIAL%20DE%20CIBERDELITOS%2030092020.pdf?Open (accessed 27.12.2022).
  34. La Ley Orgánica de Elecciones señala en su artículo 181 que la propaganda electoral debe hacerse dentro de los límites que señalan las leyes. Available at: https://leyes.congreso.gob.pe/Documentos/2016_2021/Proyectos_de_Ley_y_de_Resoluciones_Legislativas/PL06567-20201029.pdf (accessed 25.03.2022).
  35. Projeto de Lei 2630/20 institui a Lei Brasileira de Liberdade, Responsabilidade e Transparência na Internet. Available at: https://legis.senado.leg.br/sdleg-getter/documento?dm=8110634&disposition=inline (accessed 29.12.2022).
  36. Proyecto de Ley «Que sancional el incumplimiento de las medidas dispuestas ante alertas epidemiologicas e en estado de emergencia sanitaria declarada», presentado por el senador Pedro Arthuro Santa Cruz Insaurralde, de fecha 16 de marzo de 2020. Available at: http://silpy.congreso.gov.py/expediente/120258 (accessed 29.03.2022).
  37. La Cámara Electoral creó un registro de sitios web y redes sociales oficiales de candidatos y agrupaciones políticas. Available at: https://www.cij.gov.ar/nota-31460-La-C-mara-Electoral-cre--un-registro-de-sitios-web-y-redes-sociales-oficiales-de-candidatos-y-agrupaciones-pol-ticas.html (accessed 27.12.2022).
  38. Gandulfo D. Tenemos que hablar del impacto de las fakes news en las democracias latinoamericanas. Available at: https://www.iade.org.ar/noticias/tenemos-que-hablar-del-impacto-de-las-fakes-news-en-las-democracias-latinoamericanas (accessed 23.12.2022).
  39. NODIO, el Observatorio de la desinformación y violencia simbólica. Available at: https://defensadelpublico.gob.ar/llego-nodio-el-observatorio-de-la-desinformacion-y-la-violencia-simbolica/ (accessed 28.12.2022).
  40. Lubianco J. Once leyes y proyectos de ley contra la desinformación en América Latina implican multas, cárcel y censura. Available at: https://latamjournalismreview.org/es/articles/leyes-contra-desinformacion-america-latina/ (accessed 29 .12.2022).
  41. TSE lança campanha “#EuVotoSemFake”, contra a desinformação nas eleições. Available at: https://www.tre-mt.jus.br/comunicacao/noticias/2020/Setembro/tse-lanca-campanha-201c-euvotosemfake201d-contra-a-desinformacao-nas-eleicoes (accessed 21.03.2022).
  42. Higuera S. Por iniciativa de asociación de periodistas, partidos políticos de Uruguay firmarán pacto contra la desinformación. Knight Center for Journalism in the Americas. Austin, 2019. Available at: https://latamjournalismreview.org/es/articles/por-iniciativa-de-asociacion-de-periodistas-partidos-politicos-de-uruguay-firmaran-pacto-contra-la-desinformacion/ (accessed 19.03.2022).
  43. Iciar_gutierrez pic.twitter.com. Available at: https://t.co/ePGO7vtbn0Por @iciar_gutierrez pic.twitter.com/oN1QUjBZLR (accessed 17.03.2023).
  44. Gutiérrez I. Un vídeo recrea con inteligencia artificial la imagen y la voz de un periodista asesinado en México: «Aclaren este crimen». Available at: https://www.eldiario.es/internacional/video-recrea-inteligencia-artificial-imagen-voz-periodista-asesinado-mexico-aclaren-crimen_1_6372262.html (accessed 10.02.2022).

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать

© Российская академия наук, 2023