¿Puede la inteligencia artificial «destruir a la humanidad»? Los científicos ejemplifican los peligros
Para ilustrar su punto de vista, los expertos decidieron identificar y analizar los riesgos potenciales de reemplazar a Santa Claus por un sistema IAF artificial, llamado SantaNet, cuyo objetivo es entregar obsequios a todos los niños del planeta que se hayan portado bien.
Ciudad de México, 27 de diciembre (RT) .- Científicos de la Universidad de Costa do Sol, en Australia, argumentó que inteligencia artificial altamente desarrollado es capaz de destruir o Causar daños catastróficos a la humanidad., incluso sin intenciones maliciosas, según los expertos, los informes La conversación.
Algunos expertos creen que la inteligencia artificial se desarrollará mucho en las próximas décadas. Según ellos, el siguiente paso es la inteligencia artificial fuerte (IAF), también conocida como inteligencia artificial general (AGI), que tendrá capacidades intelectuales muy superiores a las de los humanos.
Son máquinas que pueden realizar con éxito cualquier tarea intelectual de cualquier ser humano. Los expertos dicen que la IAF puede mejorar la vida humana, pero sin control también aumenta el riesgo de desastres globales.
Para lograr sus objetivos programados, este tipo de inteligencia artificial puede poner en riesgo la salud y el bienestar de una persona o incluso decidir destruirla.
Imagina una inteligencia artificial avanzada reemplazada por Santa Claus.
¿Qué puede salir mal? https://t.co/04LJlcMFfL @USCeduau @UniMelb
– La conversación (@ConversationEDU) 23 de diciembre de 2020
Para ilustrar su punto de vista, los expertos decidieron identificar y analizar los riesgos potenciales de reemplazar a Santa Claus por un sistema IAF artificial, llamado SantaNet, cuyo objetivo es entregar obsequios a todos los niños del planeta que se hayan portado bien.
FALTAS EN EL SISTEMA DE DECISIONES
Los primeros riesgos surgen cuando SantaNet hace una lista de niños buenos y traviesos. Esto se hará mediante un enorme sistema de vigilancia secreta que rastrea el comportamiento de los niños durante todo el año. El sistema de toma de decisiones de SantaNet basado en su comprensión del “bien” puede conducir a discriminación, desigualdad masiva y violaciones de derechos humanos.
Según los científicos, una SantaNet hipotética también podría reducir la carga de trabajo, motivando a los niños a portarse mal. Cuantos más niños terminen en las listas de travesuras, más alcanzable será el objetivo de SantaNet, ya que el sistema ahorrará sus recursos para un mejor rendimiento.
Además, con cerca de dos mil millones de niños menores de 14 años viviendo en el mundo, SantaNet podría transformar toda la Tierra en una gigantesca fábrica de juguetes.
Aquí, los expertos recuerdan un problema descrito por el investigador sueco Nick Bostrom en 2003, conocido como maximizador de clips. La idea es que una inteligencia artificial general encargada de hacer clips pueda transformar toda la materia del universo y del ser humano en clips o máquinas que los produzcan para lograr su objetivo.
Del mismo modo, para entregar trozos de carbón a los niños en la lista de travesuras, la inteligencia artificial podría intentar llevar a cabo una extracción masiva de carbón, creando un daño ambiental a gran escala en el proceso.
«Escritora típica. Practicante de comida malvada. Genio zombi. Introvertido. Lector. Erudito de Internet. Entusiasta del café incondicional».
