Ciencia y Tecnología
|
23 noviembre, 2023 12:27 pm

Alerta mundial: crean una IA que amenaza con eliminar toda la humanidad

Compartir

Alerta mundial tras crear una IA que amenaza con eliminar a toda la humanidad sin entender sus potenciales consecuencias.

Amenaza para la humanidad. Según indican en The Information y en Reuters, justo antes del «exilio» de Altman sus investigadores escribieron una carta al consejo advirtiendo de que habían hecho un importante descubrimiento. Uno que según fuentes cercanas a los acontecimientos «podía amenazar a la humanidad».

Advertisements

Crean una IA que amenaza con eliminar toda la humanidad

Un motivo más para el despido. Esas fuentes indican que esa carta y el nuevo algoritmo de IA del que se hablaba en ella acabó convirtiéndose en una de las razones de la decisión que más tarde acabaría tomando el consejo, que despidió a Altman y forzó la dimisión de Brockman.

Advertisements

La amenaza

Desarrollo seguro vs ganar dinero. En ese consejo había preocupación por la tendencia a comercializar esos avances sin entender sus potenciales consecuencias. En OpenAI confirmaron en un mensaje interno a la plantilla que había un proyecto llamado «Q*» (pronunciado «Q star»). Así habían escrito una carta advirtiendo de sus potenciales implicaciones. En The Information destacan que quien lideró ese proyecto fue Ilya Sutskever, Chief Scientist en OpenAI y uno de los artífices del despido de Altman.

El futuro

Un potencial paso hacia la AGI. Según fuentes internas, hay empleados de OpenAI que creen que Q* podría ser un punto de inflexión en la consecución de lo que se conoce como inteligencia artificial general (AGI), es decir, un sistema de IA que según la empresa sobrepasaría a los humanos en todas las tareas con valor económico.

Fernando Rodríguez Rubio

Apasionado de la escritura, el periodismo y las artes. Máster en Escritura Creativa y graduado en Comunicación Audiovisual. Me encanta el cine, la literatura, la política y la economía.

Más leídos

Así se podrán fusionar dos cuentas en Facebook que tengan el mismo administrador y con criterios en específico.

La nueva sede de ESED en Miami responde a la creciente demanda de ciberseguridad en EE.UU.

';