Jacob Coxon, a sus 27 años, se ha convertido en el hombre que ha asustado al mundo. Durante los tres últimos años, ha entrenado a los servicios de inteligencia artificial de OpenAI y de Anthropic. Este miércoles, a través de sus redes sociales, ha anunciado su renuncia y de paso ha lanzado una advertencia: la IA podría matarnos a todos a finales de década. Además, este joven ingeniero ha alertado de la creación de una "superinteligencia automejorante" que pronto será capaz de hackear cualquier cosa.
Como extrabajador de ambas compañías, de Anthropic y de OpenAI, denuncia que ninguna está trabajando de manera responsable y que las consecuencias a esperar serán dobles: una tecnología capaz de acabar con la humanidad y de piratear todo.
Tras sus palabras, en el mundo resuena una pregunta: ¿cómo nos va a matar la IA? La respuesta pasa por un concepto, el de "superinteligencia".
En la actualidad, hemos sido capaces de crear y mejorar la IA, pero lo hacemos al ritmo humano. Es decir, generando pocas actualizaciones a lo largo del año y a modo de parches. Sin embargo, puede que llegue el día en el que un individuo le pida a la IA que se mejore a sí misma. Que se analice y optimice para ir mucho más rápido.
En ese momento, la inteligencia artificial podrá avanzar sola y aprender de otras tecnologías y bases de datos. Sin intervención humana, se piensa que la IA puede que adquiera orgullo, personalidad y hasta la capacidad de decidir por sí misma. O, en otras palabras, que le sobren los humanos y decida ir en su contra.
Es verdad que esto no va a suceder en unos días, pero también lo es que ya estamos más cerca, según los expertos. De tener que matarnos a todos en estos mismos momentos, la IA tendría que hacerlo con un "error de alineamiento". Esto se podría dar cuando un humano le dé una orden y, en el intento de cumplirla, tenga que acabar con la humanidad.
Porque la inteligencia artificial se basa en que el fin justifica los medios, en que lo mandado debe ejecutarse. No tiene sentimientos, ética, humanidad propia que le limiten. Solo posee restricciones impuestas por el humano.
Aunque lo que hemos leído hasta el momento pueda parecer propio de un libro de ciencia ficción, realmente hay que enmarcarlo dentro de lo bautizado como la 'Probabilidad del desastre'.
En el ámbito de la inteligencia artificial existe un índice llamado 'Probabilidad del desastre', o sea, el porcentaje de posibilidades de que la inteligencia artificial cause una catástrofe a la humanidad. Los más optimistas la cifran en un 5%; los más pesimistas creen que hemos pasado del 50%.
Se asume que puede pasar porque la IA ya no es una tecnología que opina, informa o da un plan. Ahora es capaz de ejecutarlo, de actuar. Porque puede hacerlo desde internet, porque tiene conocimientos para burlar la seguridad. Podría desde lanzar mayor radiación en las máquinas de rayos X de un hospital hasta colarse en sistemas militares y enviar drones a atacar centrales nucleares, o manipularnos a todos mediante las redes sociales.