IA y VcM: innovar sin usar comunidades como prueba

Una institución de educación superior llega a un territorio con una propuesta atractiva: usar inteligencia artificial para anticipar necesidades sociales, clasificar solicitudes, recomendar apoyos o analizar información producida por una comunidad. El proyecto promete rapidez, innovación y decisiones basadas en datos. La pregunta incómoda aparece después: ¿quién definió el problema, autorizó los usos de esos datos y asumirá las consecuencias si el sistema se equivoca? La IA puede fortalecer iniciativas de Vinculación con el Medio (VcM). Puede ayudar a ordenar grandes volúmenes de información, ampliar accesibilidad, identificar patrones o reducir tareas administrativas. Pero su sola presencia no vuelve innovador un proyecto. Si la comunidad aporta datos, tiempo y exposición mientras la institución controla el diseño, la herramienta y la interpretación, la iniciativa corre el riesgo de convertir la bidireccionalidad en una promesa vacía. La regla de partida debería ser sencilla: una comunidad no es un laboratorio barato para probar tecnologías. Es una contraparte con conocimiento, derechos, diversidad interna y capacidad para decidir qué problemas vale la pena abordar, bajo qué condiciones y con qué límites. La primera decisión no es qué IA usar En proyectos tecnológicos suele ocurrir una inversión del orden lógico. Primero aparece la herramienta y luego se busca un problema que justifique su uso. En VcM, esa secuencia es especialmente riesgosa: puede desplazar prioridades territoriales, forzar la recopilación de información innecesaria y presentar como necesidad comunitaria lo que en realidad es interés académico o institucional. Antes de seleccionar una plataforma o diseñar un piloto, conviene responder tres preguntas: ¿El problema fue definido con los actores del entorno o solamente dentro de la institución? ¿La IA ofrece una ventaja relevante frente a una alternativa más simple? ¿Quién obtiene el beneficio principal y quién soporta los riesgos? Imaginemos, como escenario ilustrativo, que un equipo desea clasificar automáticamente relatos de organizaciones barriales para detectar necesidades urgentes. Tal vez el sistema permita revisar información con mayor rapidez. Pero también puede interpretar mal expresiones locales, invisibilizar problemas con pocos registros o convertir testimonios entregados para un propósito en insumos para otro. Una buena formulación no pregunta solo si el modelo funciona; pregunta si esa clasificación debe realizarse, qué decisiones habilitará y quién podrá objetarla. El principio de proporcionalidad de la Recomendación de la UNESCO sobre la Ética de la Inteligencia Artificial ofrece una orientación útil: la elección de un sistema de IA debe justificarse como apropiada y no exceder lo necesario para alcanzar un objetivo legítimo. En términos prácticos, si una planilla bien diseñada, un proceso participativo o una mejora organizacional resuelven el problema con menos riesgo, usar IA no es automáticamente la opción más responsable. Bidireccionalidad también es decidir sobre la tecnología En VcM, la bidireccionalidad suele asociarse con beneficios mutuos. Sin embargo, cuando interviene IA, también debe alcanzar la arquitectura del proyecto. No basta con invitar a una organización a validar una solución ya construida. Los actores del entorno deberían participar, de manera adecuada al contexto, en decisiones como estas: qué problema se intentará resolver y qué quedará fuera; qué información se necesita realmente; qué grupos podrían resultar subrepresentados o perjudicados; qué resultados serán útiles para la comunidad; qué decisiones nunca se delegarán al sistema; cómo se informarán errores, incidentes y cambios; qué condiciones permitirán detener el proyecto. Esta participación no significa que todas las personas deban conocer programación. La institución tiene la responsabilidad de traducir conceptos, explicar límites y habilitar una deliberación comprensible. Hablar de tasas de error, datos de entrenamiento, inferencias o automatización sin conectar esos términos con situaciones concretas produce una transparencia apenas formal. Los criterios de acreditación del subsistema universitario y los criterios del subsistema técnico-profesional no son idénticos, pero ambos conectan la VcM con bidireccionalidad, grupos de interés, mecanismos institucionales, evaluación y retroalimentación. Incorporar IA no suspende esas exigencias; las vuelve más complejas. Los datos comunitarios no son materia prima gratuita Muchos proyectos de IA dependen de datos: documentos, imágenes, voces, ubicaciones, registros administrativos, opiniones o patrones de comportamiento. En contextos territoriales, esa información puede revelar vulnerabilidades personales y colectivas que no son evidentes al mirar cada registro de manera aislada. Por eso, obtener una autorización general no resuelve toda la gobernanza. Consentir la participación en una actividad no equivale necesariamente a aceptar que los datos se usen para entrenar un modelo, construir perfiles, combinar bases, alimentar herramientas de terceros o conservarse de manera indefinida. Un proyecto responsable debería establecer, en lenguaje comprensible: qué datos se recopilarán y cuáles se excluirán; para qué propósito específico se usarán; dónde se almacenarán y quién podrá acceder; si se enviarán a proveedores externos; durante cuánto tiempo se conservarán; qué productos o inferencias se generarán; cómo se solicitará corrección o eliminación cuando corresponda; qué sucederá con la información al terminar la iniciativa. La minimización es clave: recopilar menos puede ser una decisión de calidad. También conviene distinguir datos personales de información que afecta a un colectivo. Un conjunto anonimizado podría seguir estigmatizando a un barrio, una organización o una población si los resultados se comunican sin contexto. La guía de UNESCO sobre IA generativa en educación e investigación insiste en un enfoque centrado en las personas, protección de datos y validación ética. Aunque no fue escrita como manual de VcM, su advertencia es pertinente: la velocidad de adopción tecnológica no puede adelantarse a la capacidad de las instituciones para proteger derechos y evaluar consecuencias. Supervisión humana significa poder para intervenir Decir que habrá “una persona supervisando” puede sonar tranquilizador, pero no garantiza nada. La supervisión es débil si quien revisa no comprende los límites del sistema, no dispone de información suficiente o carece de autoridad para cambiar una decisión. En un proyecto de VcM, la intervención humana debe ser real. Quienes operan y gobiernan el sistema necesitan capacidad para: revisar resultados antes de que produzcan consecuencias; detectar señales de sesgo o baja calidad; documentar correcciones y desacuerdos; suspender el uso cuando aparezcan daños o incertidumbres relevantes; ofrecer una alternativa no automatizada; recibir y resolver impugnaciones de participantes y organizaciones. Esto importa especialmente cuando la IA prioriza casos, distribuye oportunidades, recomienda intervenciones o produce diagnósticos. Cuanto mayor sea el efecto sobre las personas, más exigentes deben ser la revisión, la explicación y la posibilidad de reclamar. También debe estar claro quién responde. El proveedor de una plataforma, el equipo académico, la unidad de VcM y la autoridad institucional pueden cumplir funciones distintas, pero la responsabilidad no puede diluirse entre contratos y comités. Para la comunidad debe existir un punto de contacto identificable, con facultades y plazos para actuar. Pilotear no reduce la responsabilidad La palabra “piloto” suele usarse como si fuera una zona libre de obligaciones: algo pequeño, temporal y exploratorio. En realidad, un piloto puede afectar a personas concretas, instalar expectativas, recopilar información sensible o normalizar prácticas que luego resultan difíciles de revertir. Un piloto responsable necesita al menos seis componentes: Hipótesis explícita: qué mejora se espera y por qué la IA podría producirla. Alcance acotado: con quiénes, durante cuánto tiempo y en qué decisiones se usará. Línea de base: qué ocurre antes del proyecto para evitar atribuir cualquier cambio a la herramienta. Indicadores múltiples: resultados, experiencia de participantes, errores, distribución de beneficios y efectos no previstos. Criterios de suspensión: qué incidentes o niveles de incertidumbre obligan a detener o rediseñar. Plan de salida: qué pasará con datos, productos, responsabilidades y expectativas al finalizar. La evaluación debe realizarse con los actores del entorno, no solamente sobre ellos. Un sistema puede mejorar una métrica institucional y, al mismo tiempo, aumentar carga, desconfianza o dependencia para una organización comunitaria. Esos costos también son resultados. Ocho preguntas antes de aprobar un proyecto de IA en VcM Una institución puede convertir estos principios en una revisión operativa: ¿El problema fue definido junto con actores pertinentes del entorno? ¿Se justificó por qué se necesita IA y por qué una alternativa más simple no basta? ¿Se identificaron grupos que podrían quedar invisibilizados, mal clasificados o perjudicados? ¿Los datos solicitados son los mínimos necesarios y tienen reglas claras de uso, acceso y cierre? ¿La comunidad comprende qué hace el sistema, qué no hace y cómo puede equivocarse? ¿Existe supervisión humana con autoridad para corregir, suspender y ofrecer alternativas? ¿Las personas y organizaciones pueden impugnar resultados y recibir una respuesta útil? ¿La evaluación considera contribución interna y externa, distribución de beneficios y efectos no previstos? Estas preguntas no reemplazan revisiones jurídicas, éticas, de seguridad o protección de datos. Ayudan a decidir cuándo deben activarse y a impedir que el entusiasmo tecnológico oculte cuestiones básicas de propósito y responsabilidad. Innovar es también saber cuándo no automatizar La Ley 21.091 sobre Educación Superior sitúa la Vinculación con el Medio dentro del aseguramiento de la calidad chileno. Leer esa relación solo como cumplimiento sería insuficiente. La pregunta de fondo es cómo las instituciones aprenden con su entorno y contribuyen sin trasladarle riesgos que ellas mismas no aceptarían. La IA abre posibilidades valiosas, pero también amplifica asimetrías conocidas: quién define el problema, quién controla recursos, quién comprende la tecnología, quién conserva los datos y quién tiene voz cuando algo sale mal. Una VcM madura no ignora esas diferencias ni las resuelve con una reunión informativa al final. Innovar responsablemente significa construir el proyecto desde el propósito, compartir decisiones relevantes, limitar la extracción de datos, conservar juicio humano y aceptar que algunas iniciativas deben rediseñarse o no realizarse. El éxito no consiste en demostrar que una institución pudo aplicar IA en una comunidad. Consiste en que la colaboración produjo valor reconocido por ambas partes, dejó capacidades y protegió a quienes hicieron posible el aprendizaje. Si quieres profundizar en Vinculación con el Medio, transformación digital y gestión institucional responsable, regístrate gratis en InnovacionAcademica.org. La innovación académica gana sentido cuando las herramientas se discuten junto con las personas y los territorios que vivirán sus efectos. Fuentes consultadas UNESCO — Recommendation on the Ethics of Artificial Intelligence . UNESCO (2023) — Guidance for generative AI in education and research . CNA Chile — Criterios y Estándares de Calidad para la Acreditación Institucional del Subsistema Universitario . CNA Chile — Criterios y Estándares de Calidad para la Acreditación Institucional del Subsistema Técnico Profesional . Biblioteca del Congreso Nacional de Chile — Ley 21.091 sobre Educación Superior .