texto:   A-   A+
eliax

Robots con cerebros artificiales aprender a engañar a otros robots
eliax id: 6968 josé elías en ago 20, 2009 a las 01:48 AM (01:48 horas)
Esta noticia de hoy es un excelente ejemplo para los que opinan que un cerebro artificial nunca evolucionará para representar el gran rango de sutilezas emocionales que poseemos los humanos, pues en un experimento realizado por científicos suizos unos robots aprendieron el arte de "engañar" a otros robots.

Para entender todo el proceso, iniciemos describiendo el experimento: Un grupo de robots fue colocado en un salón en donde en un lugar había una luz intensa y en otro lugar había una luz oscura. El primer objetivo de estos robots era permanecer lo mas cerca posible de la luz intensa que representaba "comida" o "energía", y el segundo objetivo era permanecer lo mas alejados posibles de una segunda luz muy débil que representaba "veneno".

Estos robots no son guiados a control remoto, sino que son totalmente autónomos, cada uno poseyendo un cerebro artificial compuesto de una "red neuronal", que no es mas que un circuito especial que se adapta automáticamente a los patrones que recibe de su entorno, muy similar a como funciona el cerebro humano, pero a una escala muchísimo menor, aunque lo suficientemente compleja como para dotar a estos robots de una inteligencia lo suficientemente primitiva como para sobrevivir en el escenario en que fueron puestos en este experimento.

Aparte de eso, estos robots cada cierto tiempo son encuestados para ver cuáles son los que han cumplido mejor el objetivo (es decir, cuáles son los que sobrevivirán en la cadena evolutiva), y aquellos que hicieron el mejor trabajo permanecen en el experimento, y aquellos que no se les copia "la mente" de los otros, pero con algunas alteraciones aleatorias para simular "un hijo que no es idéntico al padre".

Aparte de eso cada robot tenía en su cuerpo una luz intensa, que puede ser captada por los otros robots, y que inicialmente se prende y apaga aleatoriamente, pero que si es captada por otros robots esos la pueden confundir como la señal de comida.

Pues bien, dado todo ese escenario, esto fue lo que ocurrió...

En las primeras generaciones de robots, algunos se adaptaron rápidamente a buscar la comida, y otros no, pero después de unas cuantas generaciones mas casi todos los robots eran capaces de buscar la comida.

Mientras estos estaban cerca de la comida, y de manera estacionaria, la luz que emitían hacía que otros robots vinieran y se acercaran también a la fuente de comida.

Sin embargo, he aquí algo curioso del caso: El área de luz intensa (es decir, la fuente de comida) es lo suficientemente grande para acomodar a solo unos cuantos robots, por lo que si muchos se amontonan alrededor de la luz, muchos de ellos no comerán, y es posible que los que estuvieran comiendo ahora sean empujados y ya no puedan comer mas.

Pero eso no es lo verdaderamente curioso: Después de aproximadamente 50 generaciones de mutaciones en el cerebro de estos robots, algunos robots aprendieron a nunca iluminar su luz interna cuando estaban junto a la comida, pero sí cuando estaban lejos de ella. Es decir, los robots aprendieron por experiencia a engañar a los otros robots, haciéndoles creer que había comida cuando en realidad no había, y apagando sus luces en señal de que no había comida para evitar que los otros robots se acercaran y les quitaran la comida. Tan curioso como eso es que para la generación 100, ya casi todos los robots se habían aprendido este truco.

Como ven, este es un excelente ejemplo de la Evolución en acción, en específico del concepto de "supervivencia del mas apto".

Esto además debe ponernos a pensar qué sucedería si creamos una super Inteligencia Artificial (IA), y esta tomara consciencia y viera amenazada su existencia (un tema recurrente en muchas películas de Hollywood), pues obviamente esta posiblemente recurra a tácticas de engaño tal cual lo hicieron estos robots, con la gran diferencia que dado el potencialmente mas alto coeficiente intelectual de esa IA, que nosotros seamos tan fácilmente engañados como lo es para nosotros engañar a un niño de 3 años.

Eso solo lo digo como "material para pensar", pues obviamente muchos de ustedes ya conocen mis pensamientos al respecto, pues creo que esos seres de IA del futuro seremos nosotros mismos...

Y si quieren ver mas noticias similares no dejen de visitar la sección de Robots en eliax.

Fuente de la noticia

autor: josé elías

Comentarios

  • no soy un guru de la programacion ni nada eso pero llefo programando desde los 10 años y logicamente si replican un codigo (el vencedor) lo modifican un poco y asi sucesibamente pues esta bastante claro antes de hacer el experimento quienes ifan a quedar. y lo de la lucecita pues estaba pensado de antemano . me sorprenden mucho mas IA de videojuegos que aprenden las chorradas que haces.


    Si el tema de siempre Xd, sigo pensando que nadie se va a poner a hacer una maquina todopoderosa que sea imprevisible ,seria de palurdos.
    saludos :P

    • Kozka,

      Cuando dices que estaba bastante claro los que iban a quedar, quizás sin saberlo haz dado en el clavo de algo que muchos científicos alegan y que a veces es bien difícil explicarle a la gente fuera de la ciencia y de estos temas: Los humanos también somos máquinas, y nuestro comportamiento también puede ser predecible (como por ejemplo, por medio de estudios estadísticos).

      A las personas no les gusta que les cataloguen como "máquinas", y mucho menos que se juegue con la posibilidad de que no tienen un total libre albedrío, pero es la realidad.

      Para seguir tu argumento (y como ejemplo), si en vez de robots hubiésemos puestos humanos en exactamente la misma situación, ¿qué crees hubiera sucedido? Pues *exactamente* lo mismo: Los humanos que mas van a sobrevivir son los que se acercan a la comida y la protegen engañando a los demás.

      Interesante, no? :)

      • maquinas que logren superar al ser humano en el arte de mentir, destruir y ser estrategicamente malvados... lo dudo mucho. El ser humano no es predecible! tiene otro tipo de inteligencia.. mucha mas peligrosa... y muchos años de experiencia en su utilización. Las maquinas si llegan a ser inteligentes no creo que se atrevan a enfrentarse a un ser humano... no podrían entender su irracionalidad por lo que no podrían predecir los resultados a menos que cometan el error de subestimarnos... aunque no lo digo con orgullo. El punto es no hay que preocuparse tanto por las mquinas sino en como no destruirnos nosotros mismos antes de que podamos evolucionar.

  • O sea, una demostración en vivo y en directo de algo que los creacionistas dicen que es imposible: que un comportamiento inteligente surja por puro azar en un tiempo relativamente corto.

    Es que siempre se olvidan de que el azar no es el único factor que interviene en la evolución.

    • Muy cierto anv, muy al caso ese comentario.

    • No entiendo por qué se contradecirían una cosa con la otra. Yo creo que el universo (o big-bang o como quieras llamarle a lo que originó la materia) fue creado y los resultados del experimento me parecen totalmente razonables.
      Creo más bien que estás confundiendo el "comportamiento inteligente" con inteligencia-voluntad

  • Esta gente está creando Skynet!

  • Pues no me cuadra...

    ¿Acaso la componente aleatoria que introducian en cada geneneración no era programada por un humano?... Y si es así... ¿que tiene de aleatoria?

    O ¿acaso se autogeneraban nuevas "funciones" automaticamente dentro de "la red neuronal" del robot?... Y de ser así... ¿Porqué tendrían que reprogramarlos e introducir componentes aleatorias?

    Creo que el quid de la cuestion está ahí... en la componente aleatoría... ¿o sucedió que alguno de los robots sin esa componente de aleatoriedad, pertenecientente a la primera generación se autoadapto de tal forma al entorno?

    Saludos!!!

    • No, los componentes aleatorios *por definición* son aleatorios, y por tanto no son pre-programados por humanos.

      Y la razón por la que hay que introducir un components aleatorios es porque de lo contrario los descendientes de la próxima generación serían idénticos a sus padres y no habría cambio ni adaptación. Es exactamente lo mismo que sucede con humanos y todo el universo evolutivo.

  • Bueno solo espero que a nosotros no nos engañen

  • elias yo apoyo mucho tu idea de la humanidad 2.0 tambien creo que sera asi desde que vi una peli de keanu reves hace unos años atras no matrix otra no recuerdo su nombre... Lo cierto del caso es que si se demuestra la evoluciondel cerebro pero tenemos que limitar a estas IAsi en dado caso se crean asi roboticamente y nosotros segimos sin evolucionar, esto tambien seria aplicable a lo que se dijo ayer de los programas escalables y la conciencia de la internet que dijieste en el 2007 si dichas cosas toman conciensia o toman control de ellas mismas no quedara nada asu paso si puede tener la autoridad de desconfiar de nosotros quien no la evitara a que nos engañe o si la engañamos que no evitarea que ella en 2 dias evolucione aun mas(digo dos dias porque una conciencia asi si despertara tendria un poder de computo grandisimo por da un estandar dirida que 100veces mas que un cerebro ordinario o mas). parece fantasia este tema cierto pero estamos llegando y prontro se le allara la cura a la muerte =)

    • El problema Marlon, es que por mas restricciones que les pongamos, una verdadera IA encontrará la manera de auto-desprogramar esos controles, en particular si tienen el poder de crear otras IAs mas avanzadas.

  • estoy de acuerdo con q el robot aya tenido esas capacidades... lo q no entiendo elias es el por que dices q nosotros seremos robots no creo q tengamos cable o ese tipo de cosas o al menos de q perdamos nuestras emociones como tal y perdamos el sentido de llorar reir ... osea no creo q suceda esto jamas y nunca a menos q aya cientificos q lo logren me parece un poco irracional q pienses eso elias.

    • No tiene sentido para ti porque tu concepto de robot es el de un robot actual, no el de un robot en 200 anios...

    • Hola Juan,

      Nosotros los humanos (y todos los demás seres que consideramos vivos en el planeta), somos todos máquinas.

      La única diferencia entre una máquina "robótica" como las que creamos hoy día, y nosotros, es el material que nos compone, y los patrones de nuestras mentes, y ambos pueden ser modificados con tecnología.

      Por lo que somos robots hoy día, solo que nuestro mecanismo interno funciona con ADN, y que nuestros cerebros están (por el momento) mas desarrollados que nuestras creaciones.

      Pero llegará un día en donde nos convendrá mas cambiar nuestros cuerpos y cerebros biológicos por otros sintéticos y mas confiables, rápidos, fuertes, etc. Seguiremos siendo humanos, solo que en otro medio.

      Si te intriga el tema, puedes leer (gratuitamente) mi libro Máquinas en el Paraíso en donde justamente este es el tema principal. El libro está en el enlace al tope de la página de eliax:

      http://eliax.com/blog/books/MaquinasEnElParaiso/index.htm

  • Hola es muy inteligente hacer estos robots evolutivos, pero si sera posible regular su grado de evolucion para que en un futuro no sean mas poderosos que el ser humano?

    • Eso sería casi imposible, ya que la evolución encontrará la manera de evolucionar alrededor de cualquier control que pongamos.

      Es como los animales que viven en condiciones extremas en el planeta (ártico, cerca de volcanos, con poco oxígeno, etc), todos ellos se adaptaron por medio de procesos evolutivos para evitar extinción.

      Similarmente, aun si escribiésemos un software que controlara cada pequeño detalle evolutivo (algo imposible de hacer en la práctica), aun así existe la posibilidad de que un rayo cósmico colisione con el hardware en donde ejecuta el software y cambie unos bits, en al menos uno de cada millón de estos robots, y tan solo ese cambio aleatorio es suficiente para cambiar el futuro evolutivo de estos seres.

      La Evolución siempre encontrará una forma...

  • Twitter está caído (Hora de Venezuela: 11:38 a.m.)

    ¿alguien sabe?

  • Realmente muy bueno el experimento este, ojala y se pudiera pasar ya imagino que seria mucho pedir por televisión, pero al menos algún vídeo por Internet estaría bien, para ir siguiendo el desarrollo.

    PD: Me parece demasiado interesante el articulo este, y resulta que pones comentarios sobre algo tan trivial como Twitter... jejeje supongo que te gano la "desesperacion"

    Saludos

  • No se preocupen, yo los salvaré a todos. Insertaré los nanorobots en el cerebro de V.I.K.I. antes de que los NS-5 los maten a todos.

    Aunque lo siento por ti Elíax serás Lanning.

  • Solo quería decir que como siempre muy interesante el articulo, ya que leo siempre pero comento poco

  • Serian mas humanos si cuando son engañados se molestan o pone a llorar como niños tal y como nos pasa a nosotros.

  • wau, acen experimentos con robots como si fueran con seres vivos con generaciones y todo y en serio me sorprende, en si kerian q ellos aprendieran a engañar a los demas para poder sobrevivir
    pero me da un poco d miedo, si asi acen volver al robot mas y mas inteligente y asta mas organicos, al igual q otro articulo en donde isieron robots q se alimentaran con ratones y cosas organicas para subsistir

    realmente genial este articulo, cuando lo leia me emocionaba y ya pensaba q era lo q kerian los cientificos d tras d todo

    gracias elias x3

  • "" CONTROL TOTAL "" the movie

  • Elias, justo hoy leí por ahí...en algún otro blog de tecnología..., que se hacían la siguiente pregunta y me gustaría que algún dia vos puedas desarrollar una respuesta, planteaban algo así: que pasaria si uno de estos robots mata a una persona??, quien es el responsable??...es una pregunta que me dejo pensando lo complejo que se vuelve todo al final...ya que no hay absolutamente nada legislado al respecto y es algo que se debería por lo menos, ir pensando..., saludox!

    • Persona: La persona es definida como un ser racional y consciente de sí mismo, poseedor de una identidad propia.

      Si el robot tiene todo esto, me imagino que seria castigado con carcel o algo parecido ya que su creador no tendria nada que ver en las acciones y deciciones tomadas por el robot.

      • Claro!...y lo apagamos como a HAL 9000 y listo!!!, yo me inclinaria mas por una legislacion como se les aplica a los menores de edad, o porque no a las mascotas, osea el responsable seria el dueño (tutor o encargado).

Añadir Comentario

tu nombre
tu email
(opcional)
web personal
(opcional)
en respuesta a...
comentario de caracteres máximo
8 + 8 = requerido (control anti-SPAM)
 

"Impresionante.

Elías no cabe duda que nos acercamos a pasos agigantados hacia un cambio a nivel de especie.

Gracias por esta noticia y otras muchas que nos enriquecen como personas de mentes curiosas.
"

por "Andres" en may 31, 2013


en camino a la singularidad...

©2005-2014 josé c. elías
todos los derechos reservados
como compartir los artículos de eliax