En Superintelligence (Súper inteligencia), el libro seminal de Nick Bostrom sobre la inteligencia artificial (IA), el filósofo sueco advirtió que si las máquinas superan a los seres humanos en el ámbito de la inteligencia general, el resultado sería una catástrofe existencial para la humanidad. Presentar un sistema “súper inteligente”, afirmó Bostrom, hará que los humanos sean reemplazados como la forma de vida dominante en la tierra, y que posiblemente sean eliminados.
Tras leer el libro de Bostrom, el empresario multimillonario Elon Musk publicó un tuit en 2014 advirtiendo que “necesitamos ser súper cuidadosos con la IA. Es potencialmente más peligrosa que las armas nucleares.” En 2015, cuando se redactó una carta abierta solicitando una supervisión más responsable sobre las investigaciones de IA, Musk se unió a Bostrom al ser una de las primeras personas en firmarla.
A final de cuentas, la preocupación principal es que la primera máquina que supere las capacidades humanas sea imposible de apagar. Al hablar en una conferencia de TED (technology, entertainment and design, tecnología, entretenimiento y diseño) el año pasado, Bostrom presentó la hipótesis de por qué los Neanderthal no “accionaron el interruptor de apagado” con los humanos cuando nos convertimos en la especie dominante.
“Sin duda, tuvieron sus razones,” dijo Bostrom. “La razón es que somos un adversario inteligente. Podemos anticipar las amenazas y desempeñarnos alrededor de ellas. Sin embargo, eso mismo puede hacer un agente súper inteligente, y este sería mucho mejor en ello que nosotros.”
La manera de impedir que esto suceda, de acuerdo con Google, es un “gran botón rojo”.
Como corresponde, esta solución proviene de la misma empresa a la que Musk considera como la mayor amenaza para la humanidad en el ámbito de la IA. Al hablar en la Code Conference en California la semana pasada, Musk declinó mencionar explícitamente a Google por su nombre, pero aludió insistentemente al hecho de que era “la única” que le preocupaba.
Google ha invertido grandes cantidades de dinero y ha trabajado duro para reunir a algunas de las mentes más brillantes en la investigación de IA, empleándolas para desarrollar todo tipo de cosas, desde automóviles autónomos hasta algoritmos de búsqueda mejorados. En 2014, Google adquirió por 500 millones de dólares la nueva empresa londinense DeepMind, que desde entonces se ha convertido en la empresa estandarte de IA de Google, llegando a los titulares de la prensa por la creación de la primera computadora capaz de derrotar a un campeón humano en el juego de mesa llamado Go.
Los investigadores de Google DeepMind han propuesto la idea de un interruptor de apagado en un artículo de investigación revisado por pares, titulado Safely Interruptible Agents (Agentes que pueden apagarse de manera segura). En el artículo se describe un marco para evitar que las máquinas avanzadas pasen por alto los comandos de apagado y se conviertan en un agente hostil fuera de control.
“La posibilidad del apagado seguro puede ser útil para tomar el control de un robot que se ha comportado incorrectamente y que puede provocar consecuencias irreversibles”, se asegura en el artículo. “Si un agente de esa naturaleza funciona en tiempo real bajo la supervisión humana, ahora y entonces podría ser necesario que un operador humano presione el gran botón rojo para evitar que el agente prosiga con una secuencia de acciones perniciosas para él o para el entorno y que guíe al agente hacia una situación más segura.”
En pocas palabras, los métodos establecidos en ese artículo podrían algún día salvar al mundo, o al menos, a la humanidad, de un apocalipsis de IA. Bostrom mismo ha dicho que sería una “gran tragedia” si nunca se desarrolla la IA de nivel humano, ya que tiene la posibilidad de curar enfermedades, erradicar la pobreza y lograr que la civilización avance a un ritmo exponencial. Sin embargo, primero es necesario establecer salvaguardas, y una de ellas bien podría ser el gran botón rojo de Google.