La representante por la provincia María Trinidad Sánchez, Priscila D’Oleo, ha presentado ante el Congreso un proyecto de ley significativo con el propósito de regular la producción y manipulación de contenido digital creado por inteligencia artificial. La finalidad de esta legislación es proteger la integridad y derechos de las personas que puedan verse afectadas por la manipulación engañosa de videos, audios e imágenes generados mediante esta avanzada tecnología.
D’Oleo subrayó que, sin una regulación adecuada, cualquier audio, imagen o video podría ser manipulado para engañar o difamar, lo cual plantea interrogantes constantes sobre la autenticidad de la información. Por ello, es imperativo garantizar los derechos de las personas y establecer responsabilidades claras para los proveedores de servicios en este ámbito, así como aplicar sanciones a quienes utilicen malintencionadamente la inteligencia artificial.
Además, destacó que este proyecto de ley tiene como objetivo fomentar activamente la investigación y educación sobre este tema, asegurando que la sociedad esté preparada para identificar y contrarrestar contenido digital manipulado.
El proyecto de ley define el contenido digital generado por inteligencia artificial como aquel creado o modificado de manera realista mediante técnicas de IA, con la intención de engañar, difamar, dañar la reputación, privacidad o seguridad de terceros.
Uno de los avances más intrigantes y polémicos en la era digital es la aparición de los «deepfakes». Estas creaciones de inteligencia artificial han cobrado notoriedad en los últimos años debido a su habilidad para producir contenido multimedia falso y realista. Los deepfakes utilizan algoritmos de aprendizaje profundo para generar contenido multimedia engañoso, incluyendo videos, audios e imágenes falsas que resultan extremadamente difíciles de distinguir de los originales. Estos algoritmos analizan y sintetizan datos de origen para superponerlos en un contenido de destino, logrando un resultado sorprendentemente realista, lo que ha llevado a su utilización en aplicaciones tanto benignas como preocupantes.
El proyecto de ley establece obligaciones para los proveedores de servicios que faciliten la creación o manipulación de contenido digital generado por inteligencia artificial, incluyendo la implementación de medidas de seguridad y de identificación para prevenir su uso indebido. Asimismo, se les insta a promover la educación y concienciación sobre los riesgos asociados a esta tecnología y colaborar con las autoridades en la investigación y persecución de delitos relacionados con su utilización.
En caso de incumplimiento de la ley, el proyecto estipula la imposición de multas y/o penas privativas de libertad, en consonancia con la gravedad de la infracción y el perjuicio causado. Estas sanciones serán aplicables tanto a los creadores y manipuladores de contenido digital generado por inteligencia artificial de forma maliciosa, como a los proveedores de servicios que no cumplan con sus obligaciones.