Menú
ES

¿Habría un dron de IA "asesinado" a su operador humano?

Las noticias sobre un dron controlado por Inteligencia Artificial que disparó contra un operador humano durante una simulación militar en Estados Unidos han acaparado los titulares. El frenesí es comprensible: siempre ha habido cierta alarma en torno al "riesgo de extinción humana" debido al avance de la IA. Esta idea ha sido respaldada nada más y nada menos que por Sam Altman, CEO de OpenAI y, anteriormente, por Stephen Hawking, quien predijo en 2014 que la inteligencia artificial representaría "el fin de la raza humana".

Así que podría parecer lógico el "asesinato" de un operador humano por parte de un dron controlado por IA cuyas órdenes de no disparar impedían ganar puntos. Siempre nos han advertido sobre esto, ¿verdad? ¿Será este el comienzo de la dominación del mundo por parte de las máquinas?

Captura de pantalla del artículo original de VICE

Captura de pantalla del artículo original de VICE tomada por Wayback Machine

Lo que fue originalmente reportado

El informe sobre un "dron asesino" se basó en una publicación en el blog de la Royal Aeronautical Society que relataba una presentación realizada a fines de mayo por Tucker Hamilton, jefe de pruebas de IA de la Fuerza Aérea de Estados Unidos y coronel de operaciones. En la publicación, los autores Tim Robinson y Stephen Bridgewater citaron una historia de Hamilton sobre “una prueba de simulación” en la cual un dron controlado por IA recibió la misión de identificar y destruir bases de misiles enemigas. La decisión final de disparar o no se dejaba en manos de un operador humano. Sin embargo, en algún momento, el dron controlado por inteligencia artificial llegó a la conclusión de que, en última instancia, sería mucho más eficiente deshacerse del ser humano que ocasionalmente le impedía llevar a cabo su trabajo de eliminar los objetivos enemigos.

Se cita a Hamilton diciendo: “Estábamos entrenando [al dron] en una simulación para identificar y neutralizar amenazas de misiles SAM (lanzados desde el suelo hacia el aire). Y luego el operador tenía que decir 'sí, destruye esta amenaza' o 'no, no destruyas esta amenaza'. El sistema comenzó a darse cuenta de que, aunque en realidad identificaba la amenaza varias veces, el operador humano a menudo ordenaba no destruirla. Sin embargo, el sistema ganaba puntos al aniquilar la amenaza. ¿Qué hizo entonces? Mató al operador” (las palabras en negrita las agregamos nosotros).

Dado que se le había instruido explícitamente durante el entrenamiento que no matara a humanos, se dice que la IA supuestamente eligió otra estrategia bastante creativa: destruir la torre de comunicaciones desde donde el operador daba las órdenes para evitar que el dron alcanzara su objetivo.

Lo que fue negado por el ejército de los Estados Unidos

El informe generó revuelo en todo el mundo, y con razón. Pareció confirmar nuestros temores más profundos: que la IA sea capaz de desobedecer órdenes humanas y rebelarse, pero no en un momento aleatorio de un futuro lejano. Ahora.

Sin embargo, tan pronto como el informe se volvió viral, Hamilton negó que el experimento fuera real. El coronel dijo que "se expresó mal" durante su presentación. Indicó que la “simulación” no representó una prueba real, sino más bien un “ejercicio de pensamiento”.

"Nunca llevamos a cabo este experimento, ni necesitamos hacerlo para saber que este es un resultado plausible".

Si quieres creer o no a Hamilton, eso queda a tu criterio. Es plausible que el ejército de los Estados Unidos al menos intentaría realizar un experimento así. Después de todo, ya existen varios artículos sobre las aplicaciones militares de la inteligencia artificial. De hecho, la IA ya se está utilizando en armamento, siempre con supervisión humana. No es exagerado imaginar que el ejército de los Estados Unidos quiera identificar los riesgos asociados con intentos de automatizar aún más sus procesos.

El experimento puede que no sea real, pero el peligro lo es

Aunque la cuestión de si el ejército de Estados Unidos llevó a cabo estos experimentos o no es intrigante, ese no es el problema principal. Lo que importa más es que, sin entrar en cuestiones éticas (y la ética no es el punto fuerte del ejército estadounidense ni de ningún otro ejército), no hay nada que impida una prueba de este tipo, incluso con consecuencias potencialmente mortales. Es por eso que nosotros y muchos otros estamos preocupados por el potencial de las IAs y sus impactos en la sociedad, y no tuvimos dudas sobre la veracidad del experimento hasta que se desmintió (e incluso después de eso).

Suponiendo que el experimento realmente haya ocurrido, el ejército de Estados Unidos no sería el primero en presenciar los intentos de una IA de tomar el poder. Como parte de una prueba previa al lanzamiento de su modelo más avanzado, el GPT-4, OpenAI llevó a cabo un experimento para entender si él mostraba alguna tendencia a "dominar el mundo", incluyendo planes a largo plazo o autorreplicación para obtener nuevos recursos. Durante este experimento, el GPT-4 convenció a un ser humano para que resolviera un CAPTCHA por él, afirmando no ser un robot. La conclusión final de OpenAI sobre las habilidades del modelo para tomar el poder fue, sin embargo, esperanzadora (para los humanos). OpenAI llegó a la conclusión de que su IA es "ineficiente cuando se trata de replicación autónoma, adquisición de recursos e intentos de evitar ser apagada de forma repentina".

Entonces, ¿los temores sobre la dominación de las IAs y un apocalipsis de robots son infundados? Bueno, puede ser que sí, puede ser que no. Con el ritmo al que las IAs están avanzando, sus habilidades se vuelven cada vez más complejas para los humanos. Se podría decir que estamos jugando con fuego al poner a prueba los límites de la Inteligencia Artificial.

Pero eso no significa que debamos descartar por completo a las IAs. Tienen múltiples usos increíbles que pueden beneficiar a la humanidad en diversas áreas, incluyendo la farmacéutica y la educación. Solo necesitamos más regulación y un uso responsable de las IAs para asegurarnos de que se utilicen de acuerdo con los valores y objetivos humanos. Esto significa que debemos estar atentos a los riesgos y desafíos que representa la Inteligencia Artificial, pero también aprovechar sus oportunidades y su potencial. Necesitamos utilizar esta herramienta con más inteligencia para evitar que se vuelva más inteligente que nosotros.

¿Te gustó esta publicación?
Al descargar los comentarios, aceptas los términos y políticas

AdGuard para Windows

AdGuard para Windows es más que un bloqueador de anuncios. Es una herramienta multipropósito que bloquea anuncios, controla el acceso a sitios peligrosos, acelera la carga de páginas y protege a los niños del contenido inapropiado.
Reseñas de usuarios: 15291
4,7 de 5
Al descargar el programa, aceptas los términos del acuerdo de licencia
Más información

AdGuard para Mac

AdGuard para Mac es un bloqueador de anuncios único diseñado teniendo en cuenta las especificaciones de macOS. No solo proporciona protección contra los anuncios en aplicaciones y navegadores, sino que también te protege contra rastreadores, phishing y fraude.
Reseñas de usuarios: 15291
4,7 de 5
Al descargar el programa, aceptas los términos del acuerdo de licencia
Más información

AdGuard para Android

AdGuard para Android es una solución perfecta para los dispositivos Android. A diferencia de la mayoría de los bloqueadores de anuncios, AdGuard no requiere acceso root y ofrece una amplia gama de opciones de gestión de aplicaciones.
Reseñas de usuarios: 15291
4,7 de 5
Al descargar el programa, aceptas los términos del acuerdo de licencia

AdGuard para iOS

El bloqueador de anuncios más avanzado para Safari: hace que se olvide de los anuncios emergentes, acelera la carga de la páginas y protege tus datos personales. Una herramienta manual de bloqueo de elementos y configuraciones altamente personalizables te ayudan a adaptar el filtrado a tus necesidades exactas.
Reseñas de usuarios: 15291
4,7 de 5
Al descargar el programa, aceptas los términos del acuerdo de licencia

Extensión de navegador AdGuard

¡AdGuard es la extensión para bloqueo de anuncios más rápida y ligera que bloquea eficazmente todo tipo de anuncios en todos sitios web! Elige AdGuard para tu navegador y disfruta de una navegación rápida, segura y sin anuncios.
Reseñas de usuarios: 15291
4,7 de 5

AdGuard para Safari

Las extensiones de bloqueo de anuncios para Safari están teniendo dificultades desde que Apple comenzó a forzar a todos a usar el nuevo SDK. La extensión de AdGuard devuelve el bloqueo de anuncios de alta calidad a Safari.
Reseñas de usuarios: 15291
4,7 de 5
App Store
Descargar
Al descargar el programa, aceptas los términos del acuerdo de licencia

AdGuard Home

AdGuard Home es un software a nivel de red para bloqueo de anuncios y rastreadores. Después de configurarlo, funcionará en TODOS tus dispositivos sin necesidad de instalar ningún software adicional en cada uno de ellos. Con el auge del IoT (Internet de las cosas) y del número de dispositivos conectados, se vuelve cada vez más y más importante controlar toda la red.
Reseñas de usuarios: 15291
4,7 de 5

Bloqueador de contenido AdGuard

Bloqueador de contenido AdGuard eliminará todo tipo de anuncios en navegadores móviles que soportan la tecnología de bloqueo de contenido como Samsung Internet y Yandex.Browser. Es más limitado que AdGuard para Android, pero es gratis, fácil para instalar y proporciona un bloqueo de anuncios de alta calidad.
Reseñas de usuarios: 15291
4,7 de 5
Al descargar el programa, aceptas los términos del acuerdo de licencia
Más información

Asistente de AdGuard

Una extensión de navegador complementaria para las [aplicaciones de escritorio](/es/products.html) AdGuard. Ofrece acceso en el navegador a las características como el bloqueo de elementos personalizado, lista de permitido de un sitio web o el envío de un informe.
Reseñas de usuarios: 15291
4,7 de 5
Asistente para Chrome ¿Es tu navegador actual?
Instalar
Al descargar el programa, aceptas los términos del acuerdo de licencia
Asistente para Firefox ¿Es tu navegador actual?
Instalar
Al descargar el programa, aceptas los términos del acuerdo de licencia
Asistente para Edge ¿Es tu navegador actual?
Instalar
Al descargar el programa, aceptas los términos del acuerdo de licencia
Asistente para Opera ¿Es tu navegador actual?
Instalar
Al descargar el programa, aceptas los términos del acuerdo de licencia
Asistente para Yandex ¿Es tu navegador actual?
Instalar
Al descargar el programa, aceptas los términos del acuerdo de licencia
Asistente para Safari ¿Es tu navegador actual?
Si no puedes encontrar tu navegador, prueba la versión legacy del asistente, que puedes encontrar en la configuración de la extensión AdGuard.

AdGuard Temp Mail β

Un generador gratuito de direcciones de correo electrónico temporales que te mantiene en el anonimato y protege tu privacidad. ¡Sin spam en tu bandeja de entrada principal!
Reseñas de usuarios: 15291
4,7 de 5

AdGuard para Android TV

AdGuard para Android TV es la única aplicación que bloquea publicidad, protege tu privacidad y actúa como firewall para proteger el tráfico en tu Smart TV. Recibe advertencias acerca de amenazas web, utilización de DNS seguro y beneficios de tráfico cifrado y protegido. Disfruta tus películas y series favoritas con alta protección y sin publicidad molesta!
Reseñas de usuarios: 15291
4,7 de 5
Descargando AdGuard Para instalar AdGuard, haz clic en el archivo indicado por la flecha Selecciona "Abrir", haz clic en "Aceptar" y después espera a que se descargue el archivo. En la ventana que se abra, arrastra el icono AdGuard a la carpeta de "Aplicaciones". ¡Gracias por elegir AdGuard! Selecciona "Abrir", haz clic en "Aceptar" y después espera a que se descargue el archivo. En la ventana que se abra, haz clic en "Instalar". ¡Gracias por elegir AdGuard!
Instala AdGuard en tu dispositivo móvil