Por años, el cine nos ha contado historias de ciencia ficción en las que robots y máquinas dotados de inteligencia artificial (IA) son capaces de realizar cosas extraordinarias, pero también amenazar la existencia de la humanidad.
Desde Metrópolis, película de Fritz Lang, filmada en 1927, donde un robot reemplaza a María, una mujer defensora de la clase trabajadora, para acabar con una sociedad dividida, hasta Ex-Machina (2014), donde el protagonista Caleb Smith participa en un experimento en el que se enamora de un androide llamado Ava, la primera creación humana de la IA.
Quizás no haya hoy un Terminator que quiera aniquilar al salvador del planeta, ni vivimos en un mundo el que los humanos no tienen que ocuparse de nada como en la cinta WALL-E, ni una muñeca como M3GAN que logra establecer una dependencia emocional con una niña huérfana.
Lo que sí tenemos son aplicaciones en nuestros dispositivos móviles que utilizan la inteligencia artificial para recabar información esencial de los usuarios, y que son capaces de aprender todo sobre un individuo para brindarle una experiencia más personalizada.
La inteligencia artificial es un componente fundamental de asistentes digitales como Siri, Alexa, Bixby o Google Assistance, así como de aplicaciones de música, servicios, salud, búsquedas, entretenimiento, deportes y juegos, entre cientos de otras, que son capaces de conocer las preferencias y comportamientos de los usuarios con el tiempo.
Si bien es cierto que se suman cada vez más beneficios, también más riesgos, derivados principalmente del uso desmedido de estas apps. Tal es el caso del potencial robo de nuestra identidad digital.
Lo que a simple vista parece inofensivo, como utilizar un pequeño programa para grabar la voz y captar rasgos físicos para alterarlos y generar un video para compartir en redes sociales como TikTok o Instagram, puede eventualmente ser el medio por el que los delincuentes informáticos puedan aprovechar esas características para realizar actividades ilícitas o ilegales.
Y es que basta una mínima muestra de nuestras gesticulaciones y voz para que alguien más pueda modificarlos y asumir la personalidad de la víctima. Por ejemplo, hacerse pasar por un usuario de la banca mediante el reconocimiento de voz. Podría utilizarse la IA para evadir los controles de acceso a sistemas críticos al permitir a un delincuente usurpar la personalidad de un tercero y realizar acciones maliciosas a su nombre e, incluso, provocar estragos económicos y de reputación de gran alcance.
Otro riesgo latente es la alimentación de datos erróneos a los sistemas de IA. Herramientas populares como Chat GTP, por ejemplo, podrían tomar información de fuentes poco confiables, arrojando así conceptos erróneos y aprendiendo conceptos que carecen de veracidad.
Es cierto que se busca la mínima intervención humana, pero un recurso como estos no tiene una consciencia basada en conceptos éticos para poder discernir de lo que puede contraponerse con una postura del bien común. Si falta veracidad, integridad de la información y el uso de la IA se masifica, llegará bastante distorsionada a todos los grupos poblacionales que la utilicen, incluyendo niños.
Uso de la IA a debate su regulación
La inteligencia artificial es ya tema de debate en países como Estados Unidos, donde organizaciones públicas y privadas han comenzado a discutir los pros y contras de esta innovación. Recientemente, se presentaron ante el Congreso de ese país un par de proyectos de ley sobre la IA.
Uno de ellos está encabezado por el senador Gary Peter, presidente del Comité de Seguridad Nacional, quien junto con otros colegas plantean que las agencias de inteligencia del gobierno estadounidense deben informar a los ciudadanos si utilizan la inteligencia artificial, además de exigir la creación de herramientas para que los ciudadanos puedan apelar las decisiones tomadas por esta tecnología.
El otro proyecto propone la creación de una oficina de análisis global, en el que los senadores Michael Benet, Mark Warner y Todd Young, buscan asegurar que Estados Unidos se mantenga a la vanguardia en el desarrollo de IA. Previamente, el senador Chuck Shumer, había destacado la importancia de realizar sesiones informativas sobre el tema a fin de profundizar su comprensión de este.
Son los primeros pasos hacia un marco legislativo que regule el uso ético y legal de la inteligencia artificial y contemple las penalizaciones de los delitos relacionadas con el mal uso de la IA y las afectaciones que repercutan en la privacidad e identidad de los individuos.
Recomendaciones para uso de la apps con IA
Desafortunadamente, en México, este tipo de debates aún están lejos de realizarse. Si bien ha comenzado a tomar forma la #Ley de Ciberseguridad, de la que ya he hablado con anterioridad, pasarán varios años antes de que figure el tema de la inteligencia artificial en la agenda legislativa. Para cuando eso suceda, se deberán hacer grandes esfuerzos para estar a la par de del gran avance tecnológico que la IA representa.
Mientras eso sucede, la recomendación para los usuarios es bastante específica: ser conservadores en el uso de aplicaciones que utilicen la IA, y no dejarse llevar por la moda. Es bastante atractivo utilizar aplicaciones que conviertan nuestras facciones en caricaturas o stickers, o añadan efectos especiales a nuestras voces, pero se debe tener en cuenta que utilizan información confidencial y tienen acceso a todos los recursos almacenados en teléfonos y computadoras.
No se trata de cuestionar u oponerse al uso y adopción de tecnologías innovadoras. Son avances que, al igual que los precedieron, van a revolucionar la manera en que los seres humanos trabajamos y vivimos.
Lo que es necesario hacer es tomar consciencia del uso de las aplicaciones y sistemas que utilizan la IA, y moderar su utilización, sin atentar contra derechos universales como el de opinión o de libre expresión. También se trata de establecer normas que exijan que las herramientas y programas que se instalen sean seguras, salvaguarden la información y haya penalizaciones para quienes hagan mal uso de ella.