Riesgos al usar la inteligencia artificial (IA)

Riesgos al usar la inteligencia artificial (IA)

Existen muchos beneficios y riesgos al usar la IA. Conocerlos nos ayuda a aprovechar su uso. Pero si no nos preparamos para los riesgos que implica esta nueva tecnología, podría llevarnos a reducir o perder la capacidad de entregar valor real.

• Transparencia: La responsabilidad de la toma de decisiones está basada en el entendimiento del proceso de generación de la información y la forma en que se decide en el contexto seguido por la IA. Sin suficiente información, evidencia, se hace difícil explicar, entender y tener confianza para asumir las responsabilidades; peor aún, se pueden llegar a situaciones donde no se puedan corregir los errores con facilidad. Por ejemplo, imaginemos que trabajamos con una serie de agentes de IA, le pedimos que genere las historias de usuario para una aplicación, que diseñe los prototipos y construya la aplicación; puede verse como algo sumamente disruptivo y, de hecho, lo es. ¿Pero podrían asumir la responsabilidad, explicar y sostener los argumentos sobre las decisiones que llevaron a la salida final sin saber cómo ha decidido la IA?
• Privacidad y seguridad: Muchas organizaciones tienen el temor de comprometer la privacidad de datos sensibles con la IA. Con la capacidad de la IA, una foto, la grabación de un mensaje puede llevar a robos de identidad. Pero también está el problema de la propiedad intelectual. Otro riesgo es la exposición a ataques de seguridad, inyecciones al prompt (prompt injection), para engañar al modelo y provocar comportamientos no esperados.
• Sesgo. Se refiere a que la IA puede, por diversos motivos, brindar información parcializada o con una clara tendencia. Sin darnos cuenta, podemos ingresar información a la IA sobre raza, género y otra información demográfica que puede llevar a respuestas sesgadas o información inconsistente. Por ejemplo, cuando le pedimos que actúe como un Product Owner experto, ya se puede introducir un sesgo en la respuesta. Existen muchas técnicas para mitigar este efecto, como por ejemplo el uso de múltiples roles.
• Alucinación o información fuera del contexto. Un riesgo alto debido al diseño de la IA es la información falsa, incorrecta, fuera de contexto o sutilmente irreal. Este riesgo puede pasar inadvertido y solamente ser tomado en cuenta en las revisiones finales con usuarios. El riesgo para los usuarios de la IA es basar sus decisiones en hechos falsos, inexistentes y llevar a contaminar con esa información los sistemas y procesos. Volvamos al ejemplo anterior: le pedimos a la IA que busque información en internet para brindarnos historias de usuarios sobre un tipo de producto haciendo comparaciones. Tenemos que asumir que el resultado que devuelva puede estar basado en información que no existe.

.