Bill Gates pide a los gobiernos que regulen la inteligencia artificial (IA). Advierte que la autorregulación de las compañías no basta, que la tecnología ya es lo suficientemente poderosa como para provocar daños masivos y que el mundo no está preparado para lo que viene. Hace tres años, sin embargo, se opuso a frenarla. En 2023, cuando más de mil científicos y empresarios firmaron una carta pidiendo pausar por seis meses el entrenamiento de los sistemas más avanzados, Gates se desmarcó: pedirle a un grupo que se detenga no resuelve nada, dijo, y una pausa así sería imposible de hacer cumplir.

No hay necesariamente una contradicción entre ambas posiciones. Lo que hay es una distinción que el debate público suele pasar por alto y que resulta especialmente relevante para las empresas: frenar no es lo mismo que regular.

Mientras gobiernos, expertos y compañías discuten hasta dónde debe llegar esa regulación, muchas organizaciones ya están incorporando inteligencia artificial en procesos, análisis y decisiones que afectan a clientes, trabajadores y proveedores. Por eso, la pregunta no puede limitarse a qué restricciones debe imponer la ley. También debe incluir otra, bastante más inmediata: quién responde dentro de una organización por las decisiones que la inteligencia artificial permite tomar.

Conviene mirar hacia atrás. Internet fue probablemente el salto tecnológico más grande de las últimas décadas. Cambió la forma de comunicarnos, de comprar, de trabajar y de acceder al conocimiento, pero también abrió la puerta a fraudes, suplantaciones de identidad, ciberataques y extorsiones que antes simplemente no eran posibles. Nadie propuso seriamente apagar internet por eso. Lo que hicieron los países, tarde y de forma imperfecta, fue construir reglas alrededor de sus usos: delitos informáticos, protección de datos y ciberseguridad. Chile recorrió ese mismo camino con la Ley 21.459 de delitos informáticos, la Ley Marco de Ciberseguridad y la nueva Ley 21.719 de protección de datos personales. No se reguló el cable; se reguló la conducta.

Con la inteligencia artificial corremos el riesgo de enfocar mal la discusión. La pausa propuesta en 2023 no ocurrió y difícilmente podía ocurrir, porque ninguna jurisdicción puede detener por sí sola una tecnología que se desarrolla en decenas de países, con capital privado, competencia global y código abierto. Frenar, en la práctica, puede significar simplemente que otros avanzan.

Por eso, la pregunta útil no es si regular, sino cómo hacerlo y hasta dónde. Y ahí aparece una pregunta mucho más antigua que la inteligencia artificial, formulada por Juvenal hace casi dos mil años: ¿quién vigila a los vigilantes?

Si cada país crea su propio regulador de IA, ¿con qué capacidades técnicas fiscalizará modelos que incluso sus desarrolladores tienen dificultades para explicar por completo? ¿Quién define qué decisiones pueden automatizarse, quién audita los criterios del fiscalizador y quién responde cuando este se equivoca o llega tarde? Una regulación que no puede fiscalizarse corre el riesgo de convertirse en una declaración de intenciones, mientras una fiscalización sin contrapesos puede introducir un riesgo distinto del que buscaba resolver.

Estas preguntas dejan de ser abstractas cuando se aterrizan. En Chile, el Sistema de Finanzas Abiertas de la Ley Fintech permitirá que, con consentimiento, los datos financieros de las personas circulen entre bancos, fintech y otras instituciones. ¿Qué ocurrirá cuando esos datos alimenten modelos que decidan, en segundos, quién accede a un crédito, a qué tasa o con qué límite? ¿Quién responde si un modelo genera un resultado discriminatorio sin que nadie lo haya programado explícitamente para hacerlo? ¿Podrá el cliente saber por qué recibió una determinada decisión?

La Ley 21.719 reconoce el derecho de las personas a oponerse, en determinadas circunstancias, a decisiones basadas exclusivamente en el tratamiento automatizado de sus datos personales, incluida la elaboración de perfiles, cuando producen efectos jurídicos o las afectan significativamente. Sin embargo, un derecho que el titular no sabe que tiene, frente a una decisión que no sabe que fue automatizada y que, además, fue tomada por un sistema difícil de explicar, es un derecho complejo de ejercer. Y nuevamente aparece la misma pregunta: quién revisa ese proceso y con qué herramientas.

Los riesgos de la inteligencia artificial son tecnológicos, pero la responsabilidad de gobernarlos es humana y organizacional. Un modelo no decide qué nivel de riesgo está dispuesta a aceptar una empresa, qué controles se omiten para llegar antes al mercado, quién valida sus resultados ni qué evidencia debe existir antes de delegarle una decisión relevante. Esas son decisiones de ingeniería, de gestión y de gobierno corporativo, y probablemente ahí se encuentra uno de los desafíos más importantes de esta discusión.

Para quienes trabajamos en cumplimiento, esta lógica no es nueva. Es la misma que sustenta cualquier modelo serio de prevención: identificar riesgos, asignar responsables, documentar controles y verificar que funcionen. También son conocidas las preguntas que deben acompañar ese proceso: quién decidió, con qué criterio, qué evidencia respalda esa decisión y quién la revisó. La diferencia es que hoy esas preguntas deben formularse también frente a algoritmos y modelos de inteligencia artificial.

Las organizaciones que incorporan IA no necesitan esperar a que los gobiernos resuelvan todas las respuestas. Necesitan saber dónde la están utilizando, qué información procesa, qué decisiones influencia o automatiza, quién puede cuestionar sus resultados, quién responde cuando falla y cómo se detecta ese fallo. Ese ejercicio no es burocracia, sino una expresión básica de diligencia.

La inteligencia artificial seguirá avanzando, con regulación o sin ella, pero las organizaciones sí pueden decidir si ese avance ocurre con responsabilidades claras o en medio de zonas grises. Porque cuando una máquina participa en una mala decisión, la pregunta relevante no es únicamente qué falló en el algoritmo, sino quién debía asegurarse de que esa decisión pudiera explicarse, revisarse y corregirse.