El investigador Jacob Coxon advierte de que la IA sin control nos podría matar en pocos años

Jacob Coxon es un investigador de Inteligencia Artificial que acaba de dimitir de la empresa Anthropic, y también se fue de OpenAI. Acusa a dichas compañías de ocultar el peligro real de la superinteligencia. Asegura que, si no se ponen límites, la IA podría acabar con nosotros antes de que termine esta década. A pesar de ello, no todos los expertos opinan igual.

El investigador de la startup de IA ha presentado su dimisión al considerar que ambas firmas actúan con irresponsabilidad en el desarrollo de la IA, una tecnología que considera que no debe ser subestimada y que podría suponer un amenaza para la humanidad. "Hoy renuncié a Anthropic. Pasé los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos empresas actúa con responsabilidad. Están avanzando a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas", expresaba Coxon en un mensaje en redes sociales

"Podría acabar con todos nosotros para finales de la década"

Coxon sostiene que ya hay multitud de personas dentro del sector de la IA siendo conscientes del elevado avance de la IA y sus peligros súbitos para el conjunto de la sociedad humana. A pesar de ello, advierte de que muchos ejecutivos minimizarán estos riesgos para evitar el caos. "Quienes desarrollan la IA creen sinceramente que podría acabar con todos nosotros para finales de la década", ha asegurado.

"Jacob tiene razón"

Un responsable de Ciencia de Alineación en Anthropic, Evan Hubinger, ha señalado que las advertencias de Jacob Coxon son reales y que los trabajadores del sector "verdaderamente creemos que la IA podría acabar con todos los humanos".

Hubinger ha apuntado que la probabilidad de que esto ocurra se eleva al 10% para el final de esta década. Aún así, Hubinger ha mantenido que en Anthropic están haciendo "todo lo posible" para evitar esta situación, aunque todavía no cuentan con un plan para "resolver el problema de la alineación para la superinteligencia y no estamos claramente encaminados hacia ello".

Puedes ver el informativo completo 'Noticias 1' en Atresplayer.