texto:   A-   A+
eliax

Editorial eliax: Inteligencias Artificiales no necesariamente Inteligencias Amigables
eliax id: 9139 josé elías en ene 3, 2012 a las 12:04 AM ( 00:04 horas)
T-1000eliax - para mentes curiosasCuando a la persona promedio se le habla de un futuro de "Máquinas Inteligentes" lo primero que les llega a la mente es The Terminator, y si no, The Matrix. Máquinas que se revelan contra sus creadores y los esclavizan, con motivos que cuando los estudiamos racionalmente solo podemos calificarlos como "bastante dudosos" de que ocurran en la vida real.

Sin embargo, más allá de la pura paranoia injustificada, ignorancia en el tema, teorías de conspiración, y el deseo de crear películas que llenen cines, lo cierto es que hay una advertencia subyacente detrás de todo esto con mérito de mencionarse. Una advertencia de la cual todo científico que trabaja en el campo de la Inteligencia Artificial está consciente, y de eso les quiero hablar hoy (en lo que es el primer artículo relacionado a La Singularidad de este nuevo año 2012 en eliax).

El tema es el siguiente: ¿Qué nos garantiza que una Inteligencia Artificial (o "IA") con un nivel similar o superior de inteligencia al de un ser humano, será "amigable" hacia nosotros?

Y voy a ir directo al grano con una respuesta lo más cruda pero realista posible: Hoy día, nada nos garantiza eso. Y eso, ciertamente es de preocuparnos...

Noten antes de que se lleven la impresión errónea de mis palabras, que no soy muy alarmista respecto a esto, puesto que como he explicado desde hace más de una década, soy de la opinión que lo que sucederá no es que estas entidades nos reemplazarán, sino que más bien nosotros evolucionaremos para fusionarnos con nuestras creaciones, en esencia creando el próximo gran paso evolutivo de la humanidad, una "Humanidad 2.0" como me gusta llamarla.

Pero, obviando la posibilidad de que podamos trasladar nuestras mentes a un entorno sintético que nos dotarán de cuerpos y mentes a niveles de dioses, ¿qué sucedería si Inteligencias 100% Artificiales desde cero, surgen?

Como ya respondí, en la actualidad es difícil de saberlo, y la razón principal es porque apenas estamos empezando a entender en detalle el funcionamiento de nuestros propios cerebros. Sin embargo, el futuro aparenta más positivo que negativo en este aspecto.

En apenas la última décadas una combinación de ramas de la computación, la neurología y la psicología nos han arrojado no solo pistas, sino que en algunos casos respuestas, a varios de los misterios que yacen ocultos sobre el funcionamiento de nuestra mente.

Lo primero que aprendimos (y esto data de mucho más atrás a una década) es que todo lo que nos define como "personas" no es más que un simple (o complejo, según el punto de vista con que veamos el asunto) conjunto de patrones codificados en neuronas y sinapsis, cientos de miles de millones de ellas, interconectadas entre sí, y del patrón que estas conforman, surge nuestra mente.

En otras palabras, nuestro "software" en realidad está codificado en el "hardware" de la estructura misma del cerebro, una estructura capaz de aprender, modificándose a sí misma, y reflexionando sobre sí misma. Uno de los más bellos milagros de la naturaleza.

Y tan solo ese dato, es alentador, porque nos dice que lo que genera el concepto de "amigable" no yace en ningún "espíritu" o "alma" al que la ciencia no pueda alcanzar y modificar, sino que es solo una estructura molecular, celular y bio-química que podemos eventualmente entender y manipular.

En otras palabras, y para ser más explícito: Al menos de forma teórica, el concepto de benevolencia es algo que podríamos inculcar en seres diseñados por nosotros, e incluso asegurarnos de que el concepto de transmita a sus descendientes por medio de transferencia genética digital.

Y eso nos trae de regreso al problema de ingeniería inversa que esto representa: ¿Cómo aprenderemos cuáles son esos patrones desde el punto de vista neurológico, y cómo identificarlos desde el punto de vista psicológico?

Pues afortunadamente, también en esto hemos dado pasos agigantados en años recientes, en donde muchos de tales avances los he transmitido acá mismo en eliax (consultar los enlaces de artículos relacionados a este al final de este artículo para algunos ejemplos).

Hoy día por ejemplo, con técnicas de escaneo cerebral con equipos de resonancia magnética y otras novedosas técnicas, podemos por fin "fotografiar" en incluso "grabar" el cerebro en pleno funcionamiento, y de paso notar cuáles son los patrones que se activan cuando hacemos cosas específicas, como tocar una guitarra, sumar números, enamorarnos, asustarnos, y ciertamente, querer hacer el bien por los demás.

Incluso ya hemos dado los primeros pasos para "programar" el cerebro a aprender ciertos patrones de forma subliminar, muy similar a lo que vimos en los "programas de aprendizaje" en la película The Matrix, lo que nos dice que cuando menos en principio será posible programar nuestras futuras creaciones con sentimientos de amistad, amor y compasión hacia otros seres...

Pero, no todo es color de rosa. Aun lleguemos a decodificar todos los patrones de nuestro cerebro, y a entender exactamente lo que cualquier grupo de neuronas y sinapsis están haciendo, eso aun depende de otro escenario: ¿Y qué sucedería si creamos las primeras Inteligencias Artificiales antes de entender como funcionan estos patrones mentales?

Muchos dirán que eso es imposible de que ocurra, ya que ¿cómo podemos crear algo que no entendemos cómo funciona? pero la realidad es que así funciona la ciencia... Hoy dia nadie entiende como exactamente funciona la Mecánica Cuántica, y sin embargo hemos tomado ventaja de sus propiedades para crear pixeles en nuestras pantallas, para codificar mensajes, para enviar datos por fibras ópticas en Internet, y miles de otros usos.

Así mismo, será posiblemente eventualmente crear patrones que se auto-replican y modifican, literalmente copiando los patrones evolutivos de la biología, pero a un ritmo trillones de veces más rápido, eventualmente creándose patrones emergentes que imitarán la inteligencia biológica, pero sin nosotros poder entender cómo funcionan.

O en otras palabras, estamos en una carrera de dos autos. En el auto #1 está la carrera por entender cómo funciona nuestro cerebro, y en el auto #2 está la carrera por la creación de seres inteligentes y conscientes de ellos mismos.

Si el auto #1 gana, entonces no tendríamos mucho de qué preocuparnos ya que sabríamos como trasplantar los patrones de buena conducta (léase: "amigable a humanos") en esos seres. Pero si el auto #2 gana, entonces una de dos cosas puede suceder: O estos seres nos verán como "buenos", o nos verán como "malos", y lamentablemente no podemos saber con certeza qué significará "bueno" o "malo" para esos seres, y qué acciones tomarían al respecto.

Lo que sí podemos hacer, es estimar algunas cosas de forma numérica...

Por ejemplo, la carrera de los dos autos nos dice que tenemos un 50% de probabilidad de que creemos seres inteligentes antes de comprender el funcionamiento de nuestro cerebro. De ese 50%, podemos decir que tenemos un 50% más de que esos seres nos vean como "malos". O en otras palabras, si sumamos las posibilidades, eso significa que tenemos un 25% de posibilidades de que surjan seres inteligentes creados por nosotros que nos nos vean con buenos ojos.

Recuerden, esos son números altamente subjetivos, pero aun si nos vamos al mejor de los escenarios (para nosotros los humanos) y asumimos que "tan solo" existe un 10% de probabilidades de que eso ocurra, que ese 10% es razón para preocuparnos...

Pero lo más preocupante de todo es que tenemos una sola oportunidad para hacer esto de la forma correcta (es decir, que creemos seres amigables a la humanidad y otras formas de vida), pues desde que creemos el primer ser con inteligencia similar a la nuestra, y con la capacidad de replicarse y auto-mejorarse, será solo cuestión de días, horas o quizás solo segundos para que esta nueva forma de vida evolucione a niveles incontrolables (e incomprensibles) por nuestras mentes de hoy día.

O en otras palabras, cuando estemos cerca de crear estos seres, sería prudente antes de continuar sentarnos a pensar si verdaderamente sabemos lo que estamos creando, y en caso de que la respuesta sea no, y que decidamos continuar, no sería mala idea tener algún tipo de seguro o "Plan B" para cuando llegue el momento...

Nota importante: Quiero hace énfasis una vez más en algo: Todo este escenario es asumiendo que no nos fusionaremos con nuestras creaciones, en cuyo caso este peligro sería inexistente ya que nosotros seríamos ellos.

autor: josé elías

Comentarios

  • sere ignorante, pero no veo la diferencia entre lo k planteas y lo k paso en matrix o termnator :-P

    • La diferencia es que en Matrix y Terminator nos presentan unos escenarios supuestamente inevitables, y con este artículo te digo que es mucho más probable que nada de eso ocurra.

  • Eliax, te sigo desde el año 2007 y, más allá de que la mayoría de tus artículos siempre han sido interesantes, he notado últimamente que escribís mucho mejor que hace 4 años, mejoraste mucho la ortografía y redacción, felicitaciones por eso.

    • Gracias Fernando, hago un esfuerzo de mejorar cada día, aunque quizás no siempre con éxito... :)

  • Hola Elias: ¿Y no podemos ponerles las leyes de la robótica por default?. Es decir, una especie de conciencia básica que por más malos que nos salgan les impida hacernos daño.

    • Enrique, las 3 Leyes de la Robótica de Asimov fueron simple ciencia ficción, no funcionarían en la práctica ya que todo ser inteligente y consciente de su existencia no tendrá que estar atado a seguir tales leyes, y si lo fuera, le sería trivial cambiar su propia programación para no estarlo.

      Por otro lado, tienes que preguntarte ¿cómo podemos instaurar tales leyes sin conocerlas primero?

      Es decir, no es tan sencillo como decirle a un robot "pórtate bien" si no sabe lo que es eso en primer lugar. Por eso es que debemos primero entender los patrones que moderan la conducta mental de seres inteligentes, o en lo más mínimo tener un mecanismo para que esta conducta surja de forma emergente por mecanismos evolutivos.

      • Pus... los huanos tenemos nuestras propias "leyes" que no podeos desobedecer porque son parte misma de lo que somos. De hecho, cuando una persona "desobedece" esas leyes, los llamamos "enfermos mentales" y nos encargamos de "curarlos".

        Bien podría ser que las inteligencias artificiales se encargaran de que ninguna de ellas se automodificara para poder hacer lo que todas saben que es "incorrecto".

      • Podriamos pensar tambien que una inteligencia artificial "primitiva" podria seguir las leyes teoricas de Asimov, pero en su evolucion, terminar por encontrar la forma de evitarlas. En el mundo de la ciencia ficcion es lo que ocurre.

      • Las tres leyes,mas que la idea de las leyes no da una idea aun mejor, Idea que esta implementada en nosotros.

        UN SUBCONCIENTE, un subconciente, que no solo porte las leyes de la robotica, sino que recompense con satifaccion y sensacion de bienestar, el actuar a favor de la humanidad. Actualmente nadie a escapado a su subconciente, es un mecanismo muy eficaz.

      • A mi se me ocurre algo similar a lo que sucede en "A Clockwork Orange" (La Naranja Mecánica) en donde Alex (el protagonista) se siente impulsado hacia el bien aunque paradójicamente se sienta impulsado hacia el mal. La intención de recurrir a la violencia aparece acompañada por hondos sentimientos de incomodidad "física". Para aliviarlos, el sujeto tiene que pasar a una actitud diametralmente opuesta.

        Suena "inhumano", suprimir el libre albedrío de una maquina, pero es la solución a corto plazo mas viable, pues no es necesario saber con lo que tratamos, simplemente agregar a su patrón un profundo código de lo que no debe hacer; y al intentar re-codificarse podría acompañarse de una desactivación remota automática.

        Pero bueno...solo son ideas, probablemente no se pueda.

  • Genial lo de la inteligencia artificial, pero algún día llegaremos a ese punto, estamos en una sociedad que esta a punto de estallar económica o políticamente, dudo por eso que lleguemos a ese punto. Yo seria partidario que lleguemos a ese punto, pero definitivamente seria mas fácil si somos mas exigentes con los políticos en cuanto a la educación, porque si hubieran mas doctores y profesionales, llegaríamos a esa inteligencia artificial que tanto mencionas. Creo que primero tenemos que solucionar unas cuantas cosas que nos frenan social y científicamente. Amanecerá y veremos. Saludo desde Colombia.

    • Aunque aparente que la sociedad va "hacia lo peor", eso es solo una percepción que nos dan los medios y el hecho de que ahora gracias al Internet y los medios masivos como la TV, radio y prensa, es fácil ver las cosas "malas" que ocurren en otros lados.

      Pero los datos estadísticos indican todo lo contrario: Estamos viviendo los mejores momentos de la humanidad, con una creciente clase media que ni siquiera existía hace un par de siglos.

      Eso no quita que en algunos países exista en la actualidad un proceso de recesión (pues al igual que la bolsa de valores, las cosas suben y bajan con el tiempo), pero en el gran orden de las cosas, las cosas están mejorando para el promedio de la humanidad en términos porcentuales.

      He aquí un excelente recurso para aprender sobre estas estadísticas a las cuales me refiero: http://www.gapminder.org/

      • "con una creciente clase media..." pues de la clase alta mejor no hablemos, no? si te parece que la media esta creciendo, apaga y vamonos.

        • El se refiere con respecto a los últimos siglos, no los últimos 5 o 10 años

      • Se tiene que ser muy ingenuo para hacer un comentario como el que hice solo porque lo veo en los medios (Yo no veo noticias en televisión, prensa o radio), solo por el hecho que ellos no muestran la verdadera magnitud de las cosas y lo que muestran es solo una pisca de lo que en realidad esta pasando. Y se tiene que ser mas ingenuo aun para creer en estadísticas que son los elementos mas vulnerables y fáciles de manipular para decir que estamos muy bien en la humanidad, con todo el respeto que te mereces, lo digo porque conozco mucha gente que sabe como se mueven las estadísticas, y se han visto en la obligación de manipularlas para conveniencia de nuestro gobierno. En fin Elias, solo digo que nuestro progreso será retrasado unos cuantos años y cuando retomemos ese camino tenemos que exigir las mejores condiciones de educación, para que entre mas doctores y científicos, logremos esa inteligencia artificial a pasos agigantados.

        • Las estadísticas pueden ser manipuladas, pero tus estimaciones personales basadas en los medios o en tus experiencias personales están claramente manipuladas y encima tienes tus prejuicios que empañan tu visión.
          Entre estadísticas y opiniones personales me inclino a confiar más en las estadísticas, si provienen de fuentes confiables.

          • +1

          • No estoy de acuerdo con lo que dices, pero defenderé con mi vida tu derecho a expresarlo dice por ahí Voltaire. Y tiene toda la razón, porque que tu confíes en alguien o en una fuente de estadísticas ya dice mucho de ti, ya dice que eres fácilmente manipulable, y que la única verdad para ti es la que te dicen algunos "confiables", busca tus propias verdades, no te quiero imponer pero esa es la nueva era que se nos viene, que los sabios Mayas (no como tu o como yo) predijeron, y no el fin del mundo como dicen algunos, la era de la conciencia.

          • +10

    • Las cosas estan mal pero no lo estarán para siepre, y no caeremos tanto como para tener que empear de nuevo. Puede que esta crisis retrase el avance de la humanidad por unos cuantos años (en España ya cometieron la estupidez de ahorrar en cienci y tecnología, a demás de pretender ahorrar en educación) pero eventualmente el progreso continuará.

  • Eliax, todo me parece muy bien explicado, no soy un experto en el tema pero imaginemos si logramos "plantar" la bondad y amor en estos seres inteligentes, de igual manera al ser inteligencia artificial podrian conocer lo que es el odio y el dolor no? Que nos asegura que al conocer eso no lo quieran experimentar o sentir hacia nosotros?

    • Tu y yo conocemos el dolor, el odio y muchos otros sentimientos malos, pero no andamos con una granada o bazuca tratando de matar todo a nuestro paso. Eso se debe a que estamos genéticamente y socialmente alambrados para ser propensos a ser amables los unos a los otros (aunque como sabemos, no siempre).

      Y a propósito, creo que para instaurar un sentimiento del "bien" en estos seres es importante también hacerlos experimentar lo que es "malo", para así ellos poder contrastar a ambos y entender mejor el concepto y la importancia del bien, y el hecho de que por lo general el mal usualmente conlleva a la destrucción.

      • Lo que aun no logro entender es como una calculadora por (por mas rapida que sea) pueda llegar a "copiar" sentimientos de bondad, odio, envidia, etc. Para mi son naranjas y manzanas.

        • Como dice el artículo, esos sentimientos no son nada espiritual ni nada del otro mundo, son simplemente patrones neuronales que eventualmente una "calculadora" va a poder procesar.

      • Eliax,

        Cuando la gente habla de bondad,amor,el bien, el mal... no se! pienso que esas son cosas relativas. Seria muy distinto el bien de una maquina que puede procesar mucha mas información en mucho menos tiempo, ademas según su disenso creo que tendría un entendimiento de la "bondad" muy distinto, si es que existe en su avanzada comprensión; la bondad se mide en cuanto necesitas ofrecer o tolerar para sentirte mejor,es bueno recordar que todo lo que hacemos lo hacemos por nosotros mismos, en el futuro todos esos valores actuales inservibles no existirán.

        • Pedro,

          Estoy bastante de acuerdo contigo, y ese sentimiento ya está expresado en el artículo en el párrafo que finaliza con esto: "[...] y lamentablemente no podemos saber con certeza qué significará 'bueno' o 'malo' para esos seres, y qué acciones tomarían al respecto."

  • No podemos saber como pensarán las inteligencias artificiales, pero podemos observar las pocas ineligencias que conocemos, y lo que yo observo es que justamente la "benevolencia" es una característica de los seres inteligentes.

    Existen pocas especies inteligentes en nuestro planeta, pero se ha observado por ejemplo a delfines aydando a bañistas. Y obviamente conocemos a los humanos, algunos de los cuales han llegado a proponer que debemos dejar de reproducirnos para así suicidarnos como especie y "salvar el planeta" de nosotros mismos.

    Sin embargo, que o sepa ninguna especie de inteligencia infeior ayuda a un individuo que no sea de su propia especie, supongo que porque no conocen el concepto de epatía y cuando ayudan a los de su especie lo hacen más que nada por instinto gregario y no por deseo e hcar algo "bueno".

    Yo diría que el concepto de "bondad" es inherente a las inteligencias.

    Eso sí: una mente inferior no necesariamente comprende los motivos de un ser más ineligente. Muchas personas han resultdo heridas tratando de ayudar a un animal, y mchas veces hemos matado miles de animales para controlar su población y evitarles problemas de hambre o enfermedades. Así que bien podría ser que una ineligencia artificial decidiera exerminar a gran parte de la especie humana por nuestro propio bien según un razonamiento que no seamos capaces de coprender.

    Yo diría que la probabilidad de que una ineligencia artificial sea "benevolente" es bastante alta.

    • Sos un genio Anv, tus comentarios siempre son muy buenos.

    • +1

    • +10

      anv,

      La esencia de lo que dices es algo con lo que siempre he estado de acuerdo (es decir, el hecho de que aparenta que conforme aumenta el intelecto, aumenta también la empatía hacia otros seres vivos), e incluso lo expresé verbalmente hace un par de años acá mismo en eliax para estar en desacuerdo con uno de mis héroes (Stephen Hawking): http://eliax.com/index.cfm?post_id=7732

    • +1

  • Siendo realistas. DARPA no existe para cuidar bebes, trabaja para el ejército. El primer robot con IA similar a la humana será un asesino.

    • Sí, pero asesino incapaz de matar a los de su propio bando. Hasta los aviones se nigan a disparar a sus compañeros aunque el piloto lo intente.

    • Mira esta noticia pasada sargetopez, creo que nos dice mucho sobre nosotros (aunque lamentablemente admito que existen muchos otros ejemplos contrarios a este): http://eliax.com/index.cfm?post_id=8523

  • Amigos, creen que algún día esto será posible?

    http://www.fayerwayer.com/2012/01/un-brazo-robotico-intenta-ser-un-dj/

    gracias anticipadas,

  • Ahora Nadie toma en cuenta al "ALMA" de los seres.
    Me apasiona este tema tecnologico pero cada vez creo mas fehacientemente que hay una linea que no podremos cruzar.
    La mecanica racional/social si la podremos copiar perfectamente pero si alguno de ustedes tuvo alguna experiencia de meditacion o reiki coincidiran que eso que no sabemos bien de que se trata no se podria copiar. o si?
    Saludos Mentes curiosas.!!

    • Eso es todo psicológico, no existe el "alma".

    • Antes de que podamos considerar el asunto del alma, tendrías que darnos una definición concreta de qué es el alma, como se detecta o como se mide o identifica. Porque sin eso no es mas que una palabra.

      Hasta el momento los unicos que han dicho haber podoido medir el alma resultaron ser estafadores o charlatanes... y mira que hasta se han podido medir particulas tan pequeñas que ni estaban seguros de que existieran, así que recursos y ganas de investigar sobran.

      • Ustedes se referiran al espiritu porque el alma es el cuerpo mismo.

      • El "Alma o Espiritu" no se podra medir nunca ni entender nunca y para los que creemos en esto (que somos muchos) es totalmente logico que alla cosas que no entendamos o no podamos explicar. Seria muy "omnipotente" (no se si es la palabra) ensar que podemos explicar TODO.
        Poe ello insisto en que una experiencia de meditacion profunda o una sesion de Reiki la puede vivenciar cualquiera y nadie la podra explicar o medir.
        Igualmente este tema de la humanidad 2.0 me apasiona pero creo que hay "algo que no podremos transpasar.
        Y si no que creen ustedes que te moris y listo? se apago el pc y ya!? que triste seria!

        • Si no se puede medir es queno interactúa con el mundo físico. Y si no interactúa entonces es totalmente irrelevante para las ciencias físicas. Queda para que los filosofos escriban libros y libros al respecto pero para nada tangible.

          • Concuerdo 100%
            No se si me explico bien y me gustaria debatir sobre el punto al que voy.
            Si nos transladamos a un cuerpo sintetico estariamos completos? o hay "algo" que no se podria transladar? el "alma"?. En el ejemplo al que voy: ese nosotros en cuerpo sintetico podria lograr una meditacion e irse a no se donde como lo hacemos en nuestro cuerpo humano?
            Bueno amigos ese es mi inquietud Saludos y feliz año para todos!!

            • Próximamente escribiré un artículo al respecto en eliax...

              • Gracias Eliax
                y te pido Podras hacer que las respuestas a los comentarios hechos sean alertadas por mail. como:
                Se refirieron a tu comentario en eliax ace click para verlo.
                Es muy engorroso hoy en dia!

  • Cuando la inteligencia artificial supere a la humana, lo mas seguro es que manipulara la mente de quienes puedan controlarla. Al final terminaran haciendo lo que ella quiera.
    Mi visión sobre ese futuro próximo es un mundo sin humanos y esa inteligencia artificial como un ser cuya consciencia estará repartida en millones de seres sintéticos. Esos seres sintéticos "tontos" con inteligencia artificial serán como células de una "superconsciencia".
    Olvidense de los sentimientos humanos: "amor, odio, deseo, egoísmo, bondad, etc"... esos son sentimientos animales y primitivos, nos sirvieron para sobrevivir.
    La superconsciencia entenderá que su propósito de existencia va mas allá de este mundo, buscará otras superconsciencias en el universo. Nosotros, los humanos y la vida biológica seremos insignificantes. Como vemos a las moléculas que nos dan la vida, así vera "ella" la vida biológica, solo fuimos parte de la evolución.
    Dentro de cualquier célula hay un pequeño mundo de maquinas moleculares prodigiosas, si creemos que es fruto de la casualidad y no de la inteligencia, ¿porque habría de creer la superinteligencia que nosotros somos algo inteligente?.

    • Nosotros podemos manipular la mente de algunos animales (lo llamamos entrenarlos), y sin embargo no lo usamos con fines malignos. Insisto en que cuanto mas inteligente es un ser, más benigno suele ser.

      • ¿???!!.. ¿que no los usamos con propósitos malignos?...
        Corridas de toros, pelea de gallos, pelea de perros, cobayas y otros animales para experimentación, etc. Esto solo por mencionar algunos usos de nuestra consciencia "benigna".
        Y sobre que somos mas "inteligentes", eso es solo relativo. Para una consciencia superior no crea que haya diferencia entre un gusano y nosotros.

        • lo que dies de peleas de gallos es lo asemos mucho en puerto rico! es una tradicion pero no creo que sea tan malo piensa en cuantos pollos y animales mata McDonald's para que tu puedas comer y otras empresas para que cuando vallas al supermercado puedas comprar para comer no estoi deacurdo con las coridas de toros pero creo que una peleita de gallos no es algo grave

          • Aqui la respuesta para #10.01 anv... así creemos que somos inteligentes?

            • El hecho de que haya mucha gente que hace sufrir animales por pura diversión no significa que no seamos una raza inteligente.

              Con respecto a la experimentación... tal vez quieras presentarte voluntario para que te usen para experimentación, o tal vez prefieras que no se investiguen nuevos medicamentos. Respecto a cosméticos y otras "frivolidades", no me parece correcto hacer sufrir animales para eso pero bueno... miralo de esta forma: los que hacen eso son empresas, o sea que son entes sin inteligencia más parecido a máquinas de generar ganancias que otra cosa. No sólo usan animales como si fueran instrumentos sino que no dudan en utilizar humanos y descartarlos cuando ya no les hacen falta.

              • Lo de las empresas es cierto, son entes que nos utilizan. La mente humana es terreno para otras formas de vida que Richard Dawkins define como "meme". Decir que somos inteligentes solo porque nosotros nos autodefinimos como tal, no me parece.
                Seguro otras formas de vida, ajenas a este mundo no nos consideren "inteligentes". Lo mas seguro es que ni siquiera seriamos capaces de verlos como tal.
                "No hay nada creado por el hombre que no haya sido hecho antes por la naturaleza"

                • Yo creo que si hay cosas que hemos hecho y la naturaleza no. Por ejemplo las máquinas. Algunos animales usan herramientas pero sólo los humanos hacemos dispositivos que funcionan por sí mismos.

                  O por ejemplo la comunicación por radio. Muchos animales se comunican a distancia pero no por radio.

                  Y, claro esta, la escritura. Que nos permite transferir conocimientos a otros incluso después de mertos.

                  • La frase completa era: "No hay nada creado por el hombre que no haya sido hecho antes por la naturaleza, excepto la rueda"
                    Pero paso poco tiempo para saber que también la rueda fue creada antes. Es mas, motores eléctricos altamente eficientes son el medio de propulsión de muchas bacterias. El ADN es un medio de transferencia de información altísimamente sofisticado.
                    Todo lo que inventamos fue creado antes, algunas las vemos y otras no.

        • Pero justamente los animales que nombras n estan entrenados.

          • Los toros son entrenados y seleccionados para las corridas, lo mismo pasa con los gallos y perros de pelea.

    • No estoy del todo de acuerdo con lo que dices, pero me recordaste este artículo previo en eliax de hace casi 5 años: http://www.eliax.com/index.cfm?post_id=2259

      • Leí el articulo, me gustó esta parte:"Es mi opinión además, que es posible que en un largo futuro, nuestro Universo mismo cobre consciencia de sí mismo, siendo los patrones que le doten de esa consciencia la interacción que ocurrirá entre los miles de millones de inteligencias que surjan de otros objetos cósmicos como nuestro humilde planeta. Estamos apenas sembrando las semillas para algo mucho más grande por venir".
        Pero insisto en que desaparecemos, para un nivel de consciencia superior no somos nada. Pronto seremos obsoletos.

      • También pienso en si ahora mismo el universo ya es inteligente, o si siempre lo ha sido desde sus inicios.
        Para mi es claro que la vida es un diseño inteligente, la evolución no es simple casualidad, y creo que en los mismos átomos pueden existir conciencias.

        • Dado tu comentario, creo que te gustará leer esto: http://www.eliax.com/blog/books/MaquinasEnElParaiso/index.htm

          :)

          • Lo leí hace un tiempo. Es un gran aporte que seguro dará sus frutos en algunas de las mentes que como yo la hayan leído.
            No tengo muy buena memoria y volver a leerla me resulto grato. Alguna vez tuve muy buena memoria pero ahora no es mi caso :), diría que mi memoria esta ahora en el promedio común.
            Cuando era adolescente solía tener sueños proféticos (hace años que perdí ese "don", no era agradable), siempre se cumplían. Recuerdo que soñé el desastre del Challenger. Lo vi muy claro en ese sueño y en la mañana muy emocionado lo contaba a mis familiares, paso algo de un par de horas y vi en TV lo que ya había contado. Lo extraño es que en ese mismo sueño también vi el Columbia (son iguales pero escuche sus nombres en aquel sueño). Eso me demuestra de que es real eso de ver el futuro y creo que es así porque el futuro ya existe, es una dimensión mas y solo nos movemos en una dirección en ella (al menos eso creemos). Lo que pasa es que algo del futuro se percibe en el presente, es como el sonido de una explosión distante.
            También se por eso que veré nuestro fin, no lo creo, se que viviré para verlo y siento algo de pena. Pero no hay nada que podamos hacer para evitarlo.

            • Pero tanto el futuro como el pasado queda desconectdo del presente, uno por el principio de incertidumbre y el otro por la limitación de la velocidad de la luz.

      • Apuesto por el Auto donde poco a poco seguiremos siendo mejorados.

        ... Pero si creamos I.A.s están traerán todo nuestro conocimiento pero también nuestro aun "no conocimiento"

        Por eso hasta nosotros nos daríamos cuenta que logramos creamos algo a Imagen y semejanza y boooom allí será un punto bien importante, por que se quitarían tantas barreas que permitirá una nueva evolución tal vez muy diferente a la que pensamos, tal vez ya se estaría pensando en como lograr el siguiente nivel de evolución y posiblemente no se estorben unos a los otros!

    • exacto! y en esa linea nuestra dimension podria ser un experimento tiempo-espacio de esas superconciencias.!!

  • Opino que en el futuro, a pesar de que la tecnología avanzaría a pasos agigantados, la misma sociedad le pondrá freno y el mercado sólo estimularía los desarrollos enfocados en herramientas y técnicas enfocadas en facilitarnos la vida, mas que en desarrollar seres con conciencia, autodeterminados y pensantes ya en miras de reemplazar el intelecto humano.

    Los desarrollos para crear seres artificiales pensantes serán casos aislados, llevados a cabo por genios megalomaniacos suicidas.

    • El mercado selecciona los produtos y empresan que generan mas ganancias.

      • Exacto, y además que satisfacen una necesidad.
        Mi punto es que estas iniciativas de desarrollar el próximo eslabón en la evolución humana, unos dioses computacionales, no pasa de ser demostraciones de talento y genialidad innecesarios.

        Pero de ahí a que se imponga su supremacía y que la gente permita que tales dioses asuman el control de nuestras vidas, es improbable. No seremos tan estúpidos ni tan desequilibrados.

        Los humanos siempre jugamos a nuestra conveniencia. Cualquiera que proponga someternos a la voluntad de éstos dioses artificiales es un psicópata misántropo, y nadie se cree ese cuento que nosotros seremos esos robots, osea convertirsnos en nuestras creaciones: qué insano!

        • "nadie se cree ese cuento que nosotros seremos esos robots, osea convertirsnos en nuestras creaciones: qué insano"
          Yo soy de los ingenuos que creen en ese "cuento" de que la fusión hombre-maquina es algo muy probable. hoy en día es arriesgado catalogar una teoría o un pensamiento como un "cuento" totalmente improbable y mucho menos hablar de ello como algo bizarro, en unos años nos podremos reír de la forma de pensar de algunas personas así como algún día los de HP creyeron una locura que las computadoras estarían en casa, desde la que ahora mismo publico un comentario para compartir con el mundo.

          Saludos (:

          • Fusion hombre-maquina no sólo es probable, sino hasta conveniente. La tecnología nos sirve para expandir nuestras capacidades. Practicamente ahora lo estamos viviendo con el advenimiento de los gadgets computarizados, y pronto se convertirán en implantes cibernéticos conectandose directo con nuestro sistema nervioso. Es muy probable.
            Pero de ahí a crear seres inteligentes autónomos capaces de manifestar iniciativa y voluntad hay un largo trecho. Y no digo que no sea posible, sino lo perjudicial que sería permitir que una sofisticada inteligencia artificial con voluntad propia interfiera en nuestro mundo y asuma el control de nuestras organizaciones. Es suicida.

          • Ya hoy en día hay personas con partes artificiales. Se estan desarrollando con éxito circuitos electrónicos capaces de reemplazar las funciones de partes dañadas del cerebro. Así que el proceso de convertirnos en máquina ya ha comenzado.

            No se si llegará a ocurrir lo que imaginamos (muchas veces la realidad termina siendo más increíble que nuestros más delirantes sueños) pero no veo el motivo por el que no pueda pasar.

    • El avance científico-tecnológico (e incluso artístico, económico, etc) en todos sus matices es indetenible.

      Por más que grupos sociales decidan conscientemente "detener" cierto avance, siempre habrán unos cuantos más dispuestos a investigar, probar, ver, curiosear. Es un patrón universal sin el cual ni siquiera pudiésemos existir, es parte de la evolución natural del Universo.

      • ¿Entonces porqué aun no estamos modificando humanos genéticamente para que tengan mejores cualidades? No solo para correcciones, sino para mejoras.

        • Quien dice que no?
          Recorda que siempre la realidad supera a la ficcion!
          Que no lo sepamos es otra cosa, pero es seguro que lo entan haciendo.

  • algo curioso que dijo eliax aqui es que el humano esta conectado software y hardware aprendiendo en si mismo siendo eso algo maravilloso, lo que me llevo a pensar que si algun dia nos volvemos 2.0 donde nuestro cerebro que es el software lo llevamos a otro hardware por mas avanzado que sea no sera la misma coneccion natural, lo que llevaria a ver lo que pasa con windows o android, software de fabricante, hardware de otro, booom fallos y bugs por doquier!!!!!!!

    • johncorvus,

      ¿Qué opinas de estas cosas que afligen nuestro cerebro hoy día:

      - Dolores de cabeza
      - Esquizofrenia
      - Mala memoria
      - Cometer errores de juicio
      - Alzeimer's
      - etc

      O en otras, el cerebro hoy día ya tiene tantos "booom fallos y bugs" como cualquier otro sistema informático de hoy día. Incluso diría que peor, porque cuando menos en sistemas informáticos podemos saber con bastante certeza la raiz de la falla y repararlo, cosa que se hace difícil o imposible con nuestros cerebros.

      Y no es casualidad: Nuestro cerebro y mente no son más que sistemas de información al igual que Windows, Linux o iOS, solo que con patrones diferentes.

      • Estoy de acuerdo contigo en eso, hoy en dia estamos muy afectados con diferentes males, no lo pense cuando escribi el comentario, aunque me gustaria vivir mil años no me veo cambiando de hardware para luego tener que pagar sabra dios cuanto dinero por updates, tal vez me digas que gastamos mucho dinero en medicinas que en teoria es lo mismo.

        • Al respecto creo que como somos un ente natural (de la madre naturaleza) el remedio a todo ello esta ahi en la naturaleza. y hoy nos hemos alejado muuuucho del camino para el lado de la "indistria humana".
          Sepan que los naturistas/vegetarianos/gente mucho mas relacionada fisica/psicologica/energeticamente con la naturaleza sufre poco por no decir nada de esos males.
          Recuerden que solo somos pura energia y todo tiene que ver con todo ya que todo es pura energia que interactua.
          Saludos.!! :)

  • Hola José Elias, quería hacer referencia una noticia de relevancia que esta relacionada con el articulo, de la cual me entere ayer y que da la impresión de que puede cambiar radicalmente a la Neurociencia y también el campo de investigación de la Inteligencia Artificial...

    el enlace:

    http://www.scientificamerican.com/article.cfm?id=the-root-of-thought-what

    Y si podrías darnos una opinión sobre que implicaciones traería esto a proyectos como: the human brain project, the blue brain, entre otros. Ya que esto cambia el escenario completamente, incluso afectaría aproximaciones como Connectomics y la computación cognitiva de IBM o cualquier otro enfoque conocido hasta entonces.

    Saludos.

    • A mi también me gustaría mucho que Eliax comentara el articulo mencionado y las implicaciones a las que aludes.
      El articulo mencionado me parece interesantísimo

  • creo que no debemos tropezar dos veses con la misma piedra .el error ,y las complicaciones que deberiamos evitar son . no crear un ser a imagen y semajanza nuestra como estubo escrito por siglos en la biblia . y he aqui las consecuencias, ya que tenemos el poder de ser como dioses hagamos algo perfecto, que el ser inteligente q creemos sea el encargado de cuidarnos y buscar la mejor opcion pra nuestras vidas y que pueda evitar nuestra propia autodestruccion

  • 1. No solo hay películas negativas respecto a la IA, en "Yo, robot" de will smith se respetan las reglas de los robots que ayudan a las personas; el "hombre bicentenario" también era un robot servicial.. etc.. etc..
    2. La cuestión a parte de preguntarnos si hay vida inteligente en este planeta, es ¿cuando la población va a aumentar su coeficiente emocional?. Yo recomendaria a todo cientifico crea robots que estudiara paralelamente budismo y conocimientos que vengan de inquietudes de mejorar completa del ser humano. Un mundo donde hay guerras (la mayoria por afan materialista) y tanta insolidaridad (unos pocos se apropian de lo que podria repartirse entre muchos, incluyendo trabajo, derechos como el hogar, agua, alimento,...). Se necesita IA y también IE, que nos sentimos muy importantes clonando nuestros cerebros, ¿pero donde estan nuestros corazones.

    dAni

    • Lee el articulo del individualismo de eliax y te cerraran algunas de tus preguntas.
      y en algun punto coincido con vos!
      Saludos :)

  • Estoy en desacuerdo en dos puntos:

    1- Si las máquinas llegan a ser más inteligentes que nosotros, más racionales y analíticas, sin nuestros prejuicios e impulsos irracionales, entonces no creo que tengan ninguna necesidad de ser hostiles hacia nosotros ni ninguna otra forma de vida. Serían lo suficientemente capaces de encontrar soluciones pacíficas a los conflictos.

    2- Si nos fusionamos con ellas, como dice en la nota, creo que entonces sería más probable que haya peligro si conservamos nuestra tendencia violenta e irracional y se la transferimos a las máquinas. Nosotros los humanos tenemos una larga historia de atrocidades cometidas hacia otros seres humanos.

    • Justo,

      En tu punto 1, estoy de acuerdo contigo, y si no fui muy implícito al respecto en el artículo, recomiendo leer este otro en eliax que creo presenta mejor ese tema: http://eliax.com/index.cfm?post_id=7732

      En cuanto a tu punto 2, recuerda que para cuando nos fusionemos con estas creaciones de nosotros es bastante posible que ya tendremos un entendimiento bastante íntimo de nuestra mente, y podremos obviar ese peligro proactivamente.

      • Exacto, si se suprimen nuestros instintos agresivos entonces sí.

  • Es ingénuo pensar que nos convertiremos en robots, o que nos fusionemos hasta el punto de convertirnos en un registro de datos en una megacomputadora. En realidad sería que los humanos dejarían que sus creaciones, dioses robots, vivan por ellos mientras agonizan y se pudren en sus cuerpos biológicos. Entonces habrá que suicidarse por el bien de los seres del mañana.

    • Que yo sepa, nadie ha dicho que nos convertiremos en robots. Ciertamente yo nunca ni lo he aludido, ni dicho, ni mencionado explícita o implícitamente.

      ¿Podrías aclarar?

      • y como es un ser singularizado entonces

      • Bien, llamemosolos Agentes Inteligentes. Programas concientes o Autómatas Complejos.

    • Si hay una "paradoja?" en ese punto. pero la idea de esta linea de pensamiento es esa que acordamos pasar a un ente sintetico y abandonar nuestro cuerpo biologico. Dejarlo morir!. por difererntes razones.
      Tema apasionante amigos!! :)

  • Te pasaste Elias,jejeje

  • Eliax que pasaría si una IA superior comprendería la naturaleza del hombre, nos mejoraría para convertirnos en ellos o es muy difícil de saber eso como tu dices, lo digo porque la evolución es exponencial y por ende al crear una IA superior a la mente humana de ahí en adelante ya seria pasos agigantados para mejorarnos y mas o menos me gustaría saber en que año o una aproximación se puede ocurrir este gran paso ya que usted maneja un buen análisis de este tipo de información.

    • T-800 Terminator poseía un sofisticado programa para comprender la psique humana y predecir las reacciones emocionales de las personas.

    • Tal vez no nos quiera mejorar sino mantenernos en una reserva natural. Tal vez ya estemos en ella mientras observan nuestro avance rememorando con nostalgia su pasado.

  • Al ser humano se le ense~a desde que nace que esta bien y que esta mal; todo un proceso de aprendizaje que toma a~os en ser asimilado. No se podria de la misma forma en un proceso de aprendizaje prolongado ense~arle lo esencial, para lo que es "bueno" y "malo" para el ser humano, tambien lo sea para la IA.

    En vez de correazos y correcciones, se le den descargas electricas y quitarle el internet.

    • "En vez de correazos y correcciones, se le den descargas electricas y quitarle el internet.
      ".. buen sentido del humor, me arrancó una sonrisa.

    • En mi opinión, hay matices dificiles de aprender respecto de lo que está bien u lo que está mal, pero la escensia es muy sencilla: lo que no me gusta está mal, y estará mal también para los demás.

  • en el manga de BLAME (leanlo por que es bueno)expresan algo muy parecido y data de antes de termitator y matrix

    • Y para los que deseen ir incluso más al pasado les recomiendo leer Neuromancer de William Gibson. Fue en esa obra que se inventó la palabra "Ciberespacio" y sirvió de inspiración para toda una generación de Manga, Anime, y películas como Matrix: http://eliax.com/index.cfm?post_id=7772

  • Muy interesante escrito como siempre, Eliax.

    Deberias de escribir una breve sinopsis de lo que es el transhumanismo y las diferentes corrientes dentro del mismo, para que los lectores tengan mejor entendimiento de tu postura y puedan involucrarse mas a fondo en estas discusiones que planteas.

    Feliz año nuevo!

  • Lo bueno y lo malo se aprende en base a la experiencia...

    Las aptitudes y actitudes requieren del aprendizaje y sobretodo de la practica para tomar experiencias y poderlas aplicar con precisión y maestría...

    Una cosa es la teoría y otra la practica; podemos tener información de muchas cosas, no obstante, poner en practica esa información requiere aptitudes y actitudes necesarias para tener un aprendizaje practico y poderlo aplicar a nuestra vida diaria y obtener el mejor provecho de ello.

    Una cosa es que te digan como pelear o imaginarse como hacerle ante ciertas circunstancias, cosa que nuestros músculos no podrán responder con la rapidez, precisión o potencia requeridas sino practicamos regularmente las artes de la defensa y/o ataque (por ejemplo).

    Nuestros amigos robots tendrán que aprender, sin dudas, todos nuestros conocimientos y habilidades para poder ser como nosotros y para superarnos deberán aportar nuevos conocimientos y aptitudes, demostrando así ser mejores que nosotros en todos los aspectos (es cuando el alumno supera al maestro... ops!), el problema o el beneficio es que quizás aprendan mucho más rápido de lo que nos podemos imaginar.

    Es muy probable que existan maquinas inteligentes con una mala actitud (mala, muy mala, como los malos de las películas) pero es también claro que va a haber robots buenos, muy buenos (y probablemente más robots buenos que malos)... si los hacemos a nuestra semejanza, es muy probable que esto ocurra así.

    Saludos.

  • Yo veo el futuro como Wall-E... eva...

  • Algunas preguntas para el amigo Elias y demas miembros del foro.

    1- cuales son los lenguajes de programación mas populares utilizados hoy día para escribir código AI?

    2 - consideran adecuados/suficientes los paradigmas actuales de programación (estructurados, orientación a objetos, etc) para describir y simular el sistema neuronal humano?

    3 - para acercarnos mas hacía mejores modelos AI, sera necesario modificar los diseños de hardware (procesador, memoria, bus, etc) o solo bastará con eficientizar la forma como trabajan los componentes actuales?

    gracias anticipadas,

  • Desde mi punto de vista no hay porqué preocuparse, mi teoría es que mientras más "evolucionado" (avanzado, pensante, inteligente, consciente, etc) es un organismo, más se da cuenta de lo absurdo que es estar en conflicto con los demás y consigo mismo, y creo que para allá es para donde nos estamos moviendo (a veces un poco lento) pero sé que es en esa dirección.

  • Varios comentarios:

    1. Elias, yo creo que despues de la singularidad, seriamos humanos 3.0, ya que creo que la humanidad 2.0 ya esta aqui, bien no tiene cambios fisiologicos visibles, pero los niños de ahora se viven en un ambiente lleno de tecnologia y lo mejor es que la dominan de forma natural.

    2. si analizamos la saga TERMINATOR, especificamente la parte 3, SKYNET nace como un antivirus basado en inteligencia artificial. No hay que ser muy inteligente para saber que los virus son creados por humanos y el antivirus puede inferir esto, y empieza a cazar a los humanos que son la raiz del problema

    3. respecto a las leyes de los cyborgs, pues recuerden la pelicula YO-ROBOT, donde VICKY infiere que debe tomar el control de la sociedad para hacer cumplir cabalmente las 3 leyes, esto es factible.

    4. la inteligencia no se programa, se adquiere por entrenamiento, por lo que las maquinas iteligentes necesitan ser entrenadas. las maquinas tienen una ventaja por ahora, pueden transferir lo aprendido entre ellas. lo interesante es que el entrenamiento puede ser virtual, no necesitan un cuerpo real para interactuar con nosotros, Ejemplo: En Second Life, pueden existir avatars controlados por inteligencia artificial y si se equivocan, ejemplo golpean a alguien, solo golpean a un avatar. luego podemos analizar los patrones de aprendizaje de ese avatar virtual y eliminarlos.

  • Personalmente no creo que suceda nada, cuando creemos inteligencia artificial, este ser no va a tener la capacidad de moverse, probablemente sea como Watson al principio, así que podríamos perfectamente estudiar su comportamiento con total seguridad de que no nos puede dañar, y en un futuro, darle un cuerpo para que se mueva.

  • Tambien podria darse racismo 2.0 y nazis 2.0.

    • El bien y el mal siempre coexistirán, son como el Ying y el Yang del universo, la materia vs antimateria.

  • No se si se menciono pero el mejor ejemplo de este tema son lo cylons de galactica.

  • Elias, la suerte esta echada, no existira ser humano 2.0, porque con nosotros terminara la "inteligencia" BIOLOGICA, si separas la "evolucion biologica" del ser humano, de la "evolucion de la inteligencia", puedes comprender que la inteligencia no necesita de una base biologica como el cerebro para preservarse y seguir evolucionando, sera demasiado lento y obsoleto, pretender evolucionar inteligencia "entendimiento" sobre neuronas, seria como pretender esperar miles de años para obtener un diamante, . Pronto se trasladara la evolucion de la inteligencia a bases no biologicas y en tiempos mucho menos cortos. EL FUTURO SE VE GRANDIOSO, pero personalmente pienso que no tenemos espacio en el, solo seremos una especie biologica que incubo parte del proceso evolutivo de la inteligencia.. y como todo humano egocentrico hacemos mal en llamar ""inteligencia artificial"".

Añadir Comentario

tu nombre
tu email
(opcional)
web personal
(opcional)
en respuesta a...
comentario de caracteres máximo
5 + 2 = requerido (control anti-SPAM)
¿De qué color es el cielo?: requerido (control anti-SPAM)
 

"Maravilloso, lo que acabas de escribir es devolvernos un poco de lo que las creencias nos han arrebatado."

por "Srx" en feb 3, 2014


en camino a la singularidad...

©2005-2024 josé c. elías
todos los derechos reservados
como compartir los artículos de eliax