Un proyecto presentado en la Cámara de Diputados propone modificar el Código Penal, el Código Civil y Comercial y la Ley 26.485 para incorporar nuevas respuestas frente al uso delictivo de la inteligencia artificial. Estafas con voces clonadas, deepfakes, manipulación de imágenes y difusión de contenido íntimo falso están entre las prácticas alcanzadas por la iniciativa.

 

El avance de la inteligencia artificial generativa no solo multiplicó las posibilidades para crear imágenes, videos, audios y textos. También abrió la puerta a nuevas modalidades de fraude, suplantación de identidad y manipulación de contenidos que plantean desafíos para una legislación creada mucho antes de la aparición de estas tecnologías.

En ese escenario, un proyecto presentado en la Cámara de Diputados de la Nación busca actualizar distintas normas argentinas para contemplar expresamente delitos y vulneraciones de derechos cometidos mediante inteligencia artificial.

La iniciativa fue impulsada por la diputada nacional Pamela Verasay, junto a otros legisladores, y propone modificaciones al Código Penal, el Código Civil y Comercial y la Ley 26.485 de Protección Integral para Prevenir, Sancionar y Erradicar la Violencia contra las Mujeres. El expediente fue girado a las comisiones de Legislación General y Legislación Penal para iniciar su tratamiento.

El foco está puesto en el uso delictivo de la IA

El proyecto no plantea una regulación general de la inteligencia artificial ni establece reglas para las compañías que desarrollan modelos o herramientas basadas en esta tecnología. Tampoco propone crear una autoridad específica de control.

El objetivo es otro: actualizar la legislación existente para responder a situaciones en las que la IA sea utilizada para cometer delitos o vulnerar derechos, especialmente aquellos relacionados con la identidad, la intimidad, el patrimonio, la imagen y la voz de las personas.

La propuesta cobra relevancia ante la expansión de herramientas capaces de generar contenidos sintéticos cada vez más realistas y de imitar imágenes o voces de personas reales.

Deepfakes y voces clonadas, bajo la lupa

Uno de los puntos centrales de la iniciativa es incorporar expresamente la voz dentro de los derechos protegidos junto con la imagen.

La modificación propuesta al Código Civil y Comercial establece la necesidad de consentimiento para captar, reproducir, recrear, modificar o imitar la imagen o la voz de una persona mediante inteligencia artificial.

La medida apunta directamente a fenómenos como los deepfakes, que permiten crear imágenes, videos o audios falsos con un nivel de realismo suficiente para hacer parecer que una persona dijo o hizo algo que nunca ocurrió.

Estafas con inteligencia artificial

El proyecto también busca actualizar el Código Penal frente a nuevas modalidades de fraude.

Entre las conductas contempladas aparecen las estafas realizadas mediante voces clonadas, imágenes manipuladas, documentos falsificados o identidades simuladas con inteligencia artificial.

De esta manera, la utilización de IA para hacerse pasar por otra persona o generar material falso con fines fraudulentos quedaría expresamente contemplada dentro de la legislación penal.

También se proponen agravantes para otras conductas realizadas mediante estas herramientas, como la manipulación de imágenes o voces cuando provoque perjuicios y la generación de falsas alarmas o noticias destinadas a causar temor público.

Contenido íntimo falso y violencia digital

Otro de los ejes está relacionado con la utilización de inteligencia artificial para crear y difundir contenido sexual o íntimo falso sin consentimiento.

La iniciativa propone modificar la Ley 26.485 para actualizar el concepto de violencia digital contra las mujeres e incorporar situaciones vinculadas con imágenes íntimas falsas, desnudos generados mediante IA, videos sintéticos y audios falsamente atribuidos a una persona.

Además, el proyecto contempla mecanismos para que la Justicia pueda ordenar a plataformas digitales, redes sociales, sitios web y proveedores de sistemas de inteligencia artificial la eliminación de contenidos considerados violencia digital, junto con medidas destinadas a preservar evidencia informática para las investigaciones.

La propuesta también incorpora representaciones creadas artificialmente dentro de las figuras relacionadas con material de abuso sexual infantil.

Un debate que recién comienza en el Congreso

Por el momento, se trata de un proyecto de ley y no de una norma vigente. La iniciativa inició su recorrido en la Cámara de Diputados y deberá ser analizada por las comisiones correspondientes antes de llegar eventualmente al recinto.

Si obtiene media sanción en Diputados, deberá pasar al Senado y completar allí el proceso legislativo antes de poder convertirse en ley.

El debate pone sobre la mesa uno de los desafíos que acompaña la expansión acelerada de la inteligencia artificial: cómo adaptar las leyes a tecnologías capaces de crear identidades, voces e imágenes falsas y utilizarlas para cometer delitos que hasta hace pocos años eran técnicamente mucho más difíciles de ejecutar.

Fuente: IProfesional