Todavía hay tiempo para gobernar la IA, advierte coello
El investigador alerta que los sistemas más peligrosos podrían ser los que ni siquiera vemos; pide reglas claras y participación social
“Aún estamos a tiempo”, dijo Coello en una reciente conversación con este diario, y añadió que los sistemas que más preocupan son los que no son públicos y cuyos alcances desconocemos. Esa advertencia obliga a preguntarnos qué estamos dispuestos a hacer como sociedad para no quedarse atrás frente a decisiones que afectarán la educación, el trabajo, la salud y la información que consumimos cada día.
Coello no habla en abstracto. Señala un problema concreto: muchas empresas y centros de investigación desarrollan modelos detrás de puertas cerradas, sin auditorías independientes ni criterios claros de responsabilidad. Ese tipo de “IA en la sombra”, como la define, puede escalar rápidamente y provocar daños antes de que la ciudadanía y los reguladores reaccionen.
Organismos internacionales como la UNESCO y la OCDE llevan años insistiendo en la necesidad de transparencia, evaluación de impactos y salvaguardas para los derechos humanos. En la práctica eso significa exigir evaluaciones de riesgo previas a la implementación de sistemas, mecanismos de acceso a información para auditorías y marcos que obliguen a responder cuando una decisión automatizada afecta a una persona.
En México la discusión aún está en ciernes. Autoridades, universidades y la sociedad civil han presentado propuestas, pero Coello apunta que falta acelerar el paso. ¿Qué consecuencias tiene la demora para la vida cotidiana? Para empezar, decisiones sobre créditos, empleos o servicios públicos podrían basarse en modelos sesgados sin que exista un recurso efectivo. La desinformación a gran escala y la pérdida de empleos en sectores vulnerables son riesgos tangibles si no hay reglas que orienten un despliegue responsable.
Las soluciones que propone Coello combinan lo técnico y lo político: transparencia obligatoria sobre el uso de modelos, auditorías independientes, estándares abiertos para evaluar seguridad y políticas públicas que incentiven investigación pública y educación tecnológica desde la escuela. También subraya la importancia de incluir a comunidades afectadas en la elaboración de normas, para evitar marcos hechos a la medida de empresas y tecnócratas.
No se trata de frenar la innovación, aclara Coello, sino de direccionarla. Pone como ejemplo sencillo lo que ocurre en una clínica: si un algoritmo decide priorizar citas sin criterios claros, la vida de pacientes puede verse afectada. Regulación, capacitación y fondos públicos para investigación son herramientas para que la IA sirva al bien común y no sólo a intereses privados.
La pregunta que lanza Coello es clara y urgente: ¿vamos a dejar que otros escriban las reglas o participaremos en su definición? La respuesta exige acción ciudadana, propuestas legislativas y un trabajo conjunto entre autoridades, academia y organizaciones sociales. Está en juego no solo una industria, sino la forma en que las decisiones tecnológicas se integran en la vida diaria de las personas.
Como periodista joven, creo que la conversación debe bajar de los foros especializados y llegar a las calles: que las madres, estudiantes, trabajadores y profesionistas entiendan lo que está en juego y exijan transparencia. Coello nos recuerda que aún hay tiempo; desperdiciarlo sería una decisión colectiva con costos reales.
Contenido y material gráfico conforme a lo difundido por Aristegui Noticias .
