Prompt Injection: conozca cómo protegerse de instrucciones ocultas al usar inteligencia artificial
La UTDI presenta una guía práctica para conocer qué es el prompt injection, identificar posibles señales de manipulación y adoptar medidas de precaución al utilizar herramientas de inteligencia artificial con documentos.
La UTDI presenta una guía para el uso seguro de inteligencia artificial frente al riesgo de Prompt Injection
La Unidad de Transformación Digital e Informática (UTDI) pone a disposición de jueces, magistrados y servidores judiciales una nueva guía práctica para conocer y prevenir los riesgos asociados al prompt injection o inyección de instrucciones, una modalidad mediante la cual pueden incorporarse instrucciones ocultas en documentos, imágenes, archivos o enlaces que posteriormente son procesados por herramientas de inteligencia artificial.
Estas instrucciones pueden no ser visibles para el usuario, pero sí ser interpretadas por la herramienta de IA, generando comportamientos inesperados como omitir información, modificar el propósito de una tarea o producir respuestas que no correspondan con el contenido original.
La guía explica de manera sencilla qué es el prompt injection, cómo puede ocultarse una instrucción, cuáles son las principales señales de alerta y qué medidas pueden adoptar los usuarios. También incorpora una biblioteca de prompts de apoyo para trabajar con documentos y recomendaciones para verificar los resultados generados por IA.
Entre las principales recomendaciones se encuentran verificar siempre los resultados frente al documento original, utilizar sesiones independientes para documentos críticos, reportar posibles alertas y evitar autorizar accesos, fuentes o acciones que no sean necesarias para la tarea solicitada.
El material hace parte de las acciones adelantadas por la UTDI para promover un uso seguro, informado y responsable de la inteligencia artificial en la Rama Judicial.
Conozca la guía y consulte las recomendaciones sobre Prompt Injection:












