Skip to content

Google toma precauciones para controlar su IA en caso de que se salga de control

7 junio, 2016

Skynet in the desert

Google prefiere tomar precauciones para evitar que su IA actúe como Skynet

La rebelión de las máquinas contra los humanos ha sido uno de los temas preferidos del cine de ciencia ficción. Tal vez la más emblemática es la saga de Terminator, donde los humanos crean Skynet, una Inteligencia Artificial (IA) que opera sistemas de seguridad u armamento, y que en un punto determinado cobra conciencia de sí misma y decide acaba con sus creadores.

Para evitar que algo parecido suceda en el futuro, Google ha determinado crear un procedimiento para detener a Deep Mind, la IA que han creado.

Deep Mind es una Inteligencia Artificial que es capaz de derrotar al campeón del juego de tablero Go en apenas unas horas y que se encuentra en constante aprendizaje ya que es capaz de aprender de experiencias anteriores para ir desarrollando su conocimiento.

Esta IA podría se capaz de operar en fábricas y en diversos Campos debido a sus cualidades.

Pero sus creadores también han tomado las medidas para controlarla cuando algo falle.

Aunque la posibilidad de que Deep Mind falle y decida atacar a humanos es muy lejana, su fallas pueden afectar el funcionamiento de alguna fabrica por lo que sería necesario desconectarla.

Por ello, ingenieros de Google como investigadores del Instituto para el Futuro de la Humanidad de la Universidad de Oxford, han creado un procedimiento para detener un hipotético mal funcionamiento de esta IA en caso de que fuera necesario “tomar control de sus sistemas cuyo comportamiento inadecuado pueda traer consecuencias irreversibles”.

Nick Bostrom, del Instituto para el Futuro de la Humanidad, considera que el punto de inflexión en el estudio de la Inteligencia Artificial será cuando las máquinas sean capaces de mejorarse a sí mismas, y parece que con Deep Mind podríamos estar cerca de llegar a ese punto.

Fuente: Tic Beat