Es bien sabido por todos que esta tecnología avanza a pasos tan gigantes y lo que un día es novedad al siguiente ya es pasado, que los expertos ya están exhaustos de tanto avance y mejora a la que no pueden hacer frente, analizar e investigarla a fondo. ChatGPT, el chatbot de OpenAI, es el ejemplo perfecto de este avance tan loco.

En apenas dos años desde su lanzamiento a finales de 2022, se ha convertido en una herramienta utilizada por cientos de millones de personas en todo el mundo, con capacidades que no paran de acumularse y dejar a todos con la boca abierta.

Con todo esto sobre la mesa, el progreso sin frenos no solo impresiona, también preocupa. Steven Adler, ex investigador de seguridad de OpenAI, ha querido hablar de sus miedos y ha comentado estar “bastante aterrorizado” por la velocidad a la que se está desarrollando la IA. 

Adler, que dejó la compañía en noviembre de 2024, deja muy claro que la industria está asumiendo una “apuesta muy arriesgada” con esta tecnología.

La carrera hacia la Inteligencia Artificial General o AGI: ¿Santo Grial o caja de Pandora?

En concreto, comentar que las dudas y preocupaciones de este desarrollador se centra en la inteligencia artificial general (AGI), un sistema que igualaría o superaría a los humanos a nivel intelectual. Dario Amodei, cofundador de Anthropic, va más allá y predice que para 2027 o 2028, los modelos de IA superarán las capacidades humanas “en casi todo”.

Con esto como base, Adler confiesa: “Cuando pienso en dónde criaré una futura familia, o cuánto ahorraré para la jubilación, no puedo evitar preguntarme: ¿llegará la humanidad a ese punto?”. Su experiencia de cuatro años en OpenAI, trabajando en seguridad para nuevos productos y sistemas de IA a largo plazo, le ha llevado a considerar el desarrollo de la AGI como “una carrera y apuesta muy arriesgada, con enormes desventajas”.

Este campo desde luego que tiene divida a la población experta. Mientras algunos ponen el grito
en el cielo y advierte sobre potenciales catástrofes, otros ven en la IA la salvación de la humanidad. Lo que está claro es que esto parece imparable, aunque muchos quieran poner vallas al campo.

Aquí la idea general tiene nombres y apellidos: alineación de la IA. Comparten, tanto unos como otros, que la inteligencia artificial debe actuar de acuerdo con los valores y objetivos humanos.

Conoce cómo trabajamos en ComputerHoy.

Etiquetas: Inteligencia artificial, Twitter, Software