Fuentes precisó que la preocupación por las consecuencias de ese fenómeno ocupa un lugar central en los debates públicos, al igual que la importancia de establecer normas para regularla y determinar mecanismos para la rendición de cuentas.

¿Qué sucede cuando la IA actúa fuera de los parámetros previstos por su desarrollador o por quien la implementa? ¿Quién es responsable cuando varios agentes, sistemas y organizaciones contribuyen a un resultado perjudicial? ¿Cómo puede una persona afectada comprender lo ocurrido, obtener pruebas, impugnar una decisión y lograr una reparación?, cuestionó la subsecretaria al enumerar algunas de las principales problemáticas analizadas.

Cada vez se recurre más a las instituciones de justicia para determinar si una conducta que involucra esa tecnología infringió la ley y establecer responsabilidades. Muchos de esos casos se basan en normas de derechos humanos relativas a la privacidad, el debido proceso, la no discriminación y la igualdad, añadió.

Además, afirmó que las autoridades deben estar preparadas para abordar eficazmente esos asuntos.

Los sistemas de IA no deben tener personalidad jurídica. La responsabilidad por sus acciones debe recaer en seres humanos e instituciones identificables. No basta con ofrecer soluciones a posteriori; es preciso anticiparse. Los Estados tienen obligaciones, y las empresas responsabilidades, de identificar, prevenir, mitigar y responder por los efectos adversos en los derechos, aseveró.

mem/gas