texto:   A-   A+
eliax

Inteligencia Artificial causó pérdidas de US$440M en 45 minutos. Opinión
eliax id: 9595 josé elías en ago 7, 2012 a las 12:09 AM (00:09 horas)
A veces en la vida las coincidencias son tan grandes, que sencillamente hay que dejarlas saber al mundo, como me acaba de ocurrir con una película y la vida real...

Sucede que este fin de semana pasado fui al cine a ver la película Margin Call ("El precio de la codicia", buena, le doy 7 de 10), en donde la trama es de un algoritmo matemático que descontrola los sistemas de la bolsa de valores ocasionando pérdidas en los miles de millones de dólares.

¿Y ahora adivinen que? Justo acaba de suceder (fuente) que a la empresa Knight Capital Group en EEUU un sistema de Inteligencia Artificial causó que la empresa perdiera la asombrosa suma de US$440 Millones de dólares en apenas 45 minutos de intercambio de acciones. Las pérdidas fueron tan grandes que sobrepasan todas las ganancias de la empresa del año pasado.

Pero, ¿qué ocurrió aquí? Pues sucede que como les informé anteriormente en eliax, existe una modalidad de compra y venta de acciones llamada "high-frequency trading", o intercambio de valores de alta velocidad, en donde software corriendo en potentes máquinas hacen transacciones en milisegundos, a velocidades que humanos apenas nos podemos imaginar.

Esas transacciones se hacen a veces bajo altos riesgos, y ciertamente el riesgo en este caso tuvo su precio, pues el sistema empezó a comprar acciones que en esencia no podía vender, teniéndose que "descargar" las acciones a precios muchos menores, ocasionando la pérdida de esos US$440,000,000.00 en apenas 45 minutos.

Y eso nos trae la pregunta: ¿Es esto un error de "máquinas" o de humanos?

Pues como dicen, las máquinas en la actualidad en esencia hacen lo que les ordenamos, dentro de ciertos parámetros de libertad que nos otorgamos, y algo me dice (particularmente debido a mi trasfondo técnico) que en este caso el error fue claramente humano.

El error pudo haber surgido en al menos dos formas: La primera siendo un simple error de programación (es decir, un error técnico), y la segunda en los parámetros del programa (es decir, un error "gerencial"). Por "parámetros del programa" me refiero a que posiblemente la empresa fue muy agresiva en especificar qué tipos de acciones estaba dispuesta a comprar, posiblemente rayando en el límite de las tolerancias aceptables (y posiblemente motivado por codicia y expectativas que no encajaban con la realidad).

Pero, ¿podría darse el caso en el futuro en que máquinas tomen decisiones como estas concienzudamente? Pues conforme dotemos de más y más inteligencia a estas máquinas, claro que sí. El tema estará en si estas decisiones se tomarán sabiendo no solo los riesgos, sino que también los resultados.

Es decir, es bastante posible que llegaremos a un futuro en donde las IAs (Inteligencias Artificiales) tomarán decisiones que nos aparentarán ser "erróneas", pero que en el gran orden de las cosas tienen motivo de ser y que no podemos comprender a simple vista.

Sería como nosotros comprar 7 latas de comida para un perro, una para cada día de la semana, y darle una sola lata al perro el primer día mientras guardamos las otras 6. Desde el punto de vista del perro, estamos haciendo algo malo al no darle todas las 7 latas el primer día, pero sabemos que lo hacemos porque de esa manera el perro no pasará hambre los otros 6 días si se come todas las latas el primer día.

Similarmente, me puedo imaginar escenarios ultra-complejos en donde nuestras mentes no podrán entender decisiones tomadas por IAs, y posiblemente tendremos que simplemente "confiar en ellas", lo que estoy seguro que para muchos no es una idea reconfortante...

Yo personalmente creo que cuando ese tiempo llegue el problema se resolverá él mismo, ya que lo que sucederá no es que habitaremos un mundo de IAs rodeado de humanos biológicos "inferiores", sino que como he explicado en lugares como este, lo que sucederá simplemente es que nosotros los humanos nos fusionaremos con nuestras creaciones, y nosotros seremos ellos...

autor: josé elías

Comentarios

  • En el gran orden de las cosas no hay ningún error. Siempre hemos hecho y hacemos lo que la naturaleza tiene establecido para nosotros.

    • Alguien perdio alguien gano, habria que ver si no fue error o soborno de los empleados por parte de terceros... o si alguien dabia como tomaba las decisiones el programa podia enganarlo.

      • Quienes hicieron la IA sabian como enganarla.

    • Me lo has quitado de la boca. Por añadir algo, diria que nosotros somos la naturaleza.

  • Que cagada!

  • Solamente tengo un comentario: Que se jodan.

    "¿Es esto un error de "máquinas" o de humanos?"

    Es un error de la avaricia de aquellos que montaron ese sistema.

    Y ese software es lo que algunos llaman mercado. Nada más lejos de la realidad. Ese software no es mercado.

    • Pues... mercado es comprar y vender cosas. En este caso, se trata de "pedacitos de empresas".

      Primero la gente compraba y vendía acciones, y si resulta ventajoso hacerlo rápido, el paso lógico es que se pase ese trabajo a máquinas.

      En un libro que leí el autor proponía un futuro en que las empresas para librarse de demandas por patentes, lo que hacían era automáticamente crear empresas nuevas y transferirse propiedades y capitales automáticamente, llegando al punto en que las empresas estaban enteramente manejadas por máquinas y cambiaban cientos de veces por segundo para hacerlas imposibles de rastrear.

  • Todo mundo puede llegar a ser ingenuo....Hasta un gran científico...porque en el fondo quiere creer más en su corazón que en su cerebro...No somos más que unas máquinas superpoderosas mentalmente, programadas paso a paso en cada uno de nuestros genes...por lo que tarde o temprano, alguna máquina artificial nos suplantará debido a su mejor programación...porque la evolución SIEMPRE da con la mejor respuesta.

  • Cuando las máquinas tomen decisiones que no entedamos, va a ser muy interesante cómo nos adaptaremos psicológicamente a eso. Es posible que empecemos a decir que "los caminos de las Máquinas son misteriosos". Es el modo natural en que resolvemos estas cuestiones. :-)

    • Tal como es el ser humano eso será dificil que pase; osea que creemos algo que este fuera de nuestro control.

      • Al final, las personas dejaran de tener fe ciega en Dios y la tendrán en las AI porque en el gran contexto de las cosas las AI son mejores y sus caminos aunque no los entendamos son los correctos.

  • Me encanto esta pelicula. Relata la sucesion de eventos que llevaron a la empresa financiera Lehman Bros. a la quiebra. Me parece que en este caso el 'error' fue netamente humano, por las siguientes razones:

    a) Ellos diseñaron los modelos matematicos por los cuales las maquinas tomaban decisiones para hacer trading.

    b) Los mas altos gerentes de la empresa, muchas veces no entendian como funcionaba el software y debían ser asistidos por empleados de nivel operacional. Existía una cultura de fé ciega en el programa. Algunos empleados quisieron advertirles (Stanley Tucci) eran despedidos o censurados. Solo hicieron caso a estos cuando ya era demasiado tarde.

    c) Las computadoras nos estaban cambiando 0's por 1's debido a un fallo de hardware o algo así. Estaban actuando militarmente (siguiendo ordenes).

    Ecuanto a un futuro en el que las IA tomen desiciones importantes sobre el bienestar de nosotros los humanos, me preocupa un poco, debido a que temo que estas buscarán soluciones "eficientes" a los problemas planteados, quizas sin considerar data contextual importante y por esto provocar mucho daño a mucha gente en el gran orden de las cosas.

    • No he visto la peli, pero lo intuia: fallo de harware. El mundo material que vivimos es perenne, osea se desgasta, no es siempre igual, por ello tu coche o mi bici pueden fallar, tener fallos, se desgastan, llamamos eso error porque interfiere en un interés humano, por tanto queda mejor decir: el error o el fallo siempre es humano; pero el universo entero es caotico, y yo veo cantidad de maquinas dando errores por tos laos, ¿porque un sistema informático no puede fallar? La cuestión seria entender en que basa la sociedad el sistema económico, la bolsa ¿esta para valorar la creación de empresas que den un bien social o para sacar tajada de todo lo que pillen?

      • Perdón, cometí un 'typo'. Quise decir No en ves de Nos. Disculpas. En la película, las maquinas no fallan por si mismas,. El fallo mas bien fue humano, por no interpretar adecuadamente la información que estaba suministrando el software y tomar mejores decisiones a tiempo.

        Desearía que Jose permitiera hacer edit a los comentarios para evitar estas confusiones.

        Saludos.

      • Tambien cabe mencionar que el software utilizado por esta empresa trabajo de manera muy eficiente por muchos años (desde finales de los 90's hasta el 2007 si no me equivoco). Asistidos por este software la empresa Lehman llego a ocupar una las primera posiciones en el ranking de bancos de inversión. Pero a mi entender, ellos fueron victimas de su propía creación. Como el sistema poseía un indice muy bajo bajo de fallas, los humanos se volvieron perezosos y flojos (ala Animatrix) dejando todo en manos del software hasta que ya era demasiado tarde.

  • Las máquinas nos pueden superar en cualidades físicas, ejemplo: creo un avión que me desplaza a una velocidad que yo con mi cuerpo no puedo alcanzar; pero eso no hace la maquina superior a mi. De la misma manera puedo crear un computador que haga cálculos por mi que yo tardaria años; pero yo soy quien ha creado la máquina, en mi esta toda la teoria para que la máquina pueda ser construida, yo soy en realidad muuuucho más complejo que la máquina que he creado. Por tanto imaginar escenarios futuros en que maquinas actuen como dioses decidiendo tipo HAL acciones que no podemos entender, me parece pura fantasia. Estaria bien en el caso de que una máquina dijear ¡no! esto traera un caos, no lo hago o lo hago de otra manera, pero ¿ha pasado asi con algo tan simple como una imitacion de algoritmos "inteligentes" para elegir compra/venta de accciones? ¡no! ha fallado. Estamos muy lejos aun de maquinas fantasticas, hasta que no entendamos mejor quienes somos y porque hay un orden y una inteligencia en el universo.

    • dani,

      Es erróneo pensar que porque somos los "creadores" que eso nos hace "superiores".

      Para empezar, desde el punto de vista evolutivo lo que importa es quien sobreviva (o más correctamente dicho, cuales patrones sobrevivan), por lo que si seres sintéticos con inteligencia artificial del futuro se adaptan mejor que nosotros, serán ellos los que sobrevivan.

      Nota que incluso hoy día las cucarachas tienen más posibilidades de sobrevivir a una guerra nuclear que nosotros, debido precisamente a su mejor adaptación al ambiente.

      Por otro lado, creo también erróneo pensar que un creador no puede crear algo más complejo que sí mismo. Recordemos que para crear algo más complejo que nosotros mismos NO necesitamos entender la complejidad final del organismo creado, sino que simplemente el *mecanismo* que le dote de esa complejidad, y ese mecanismo lo conocemos, y se llama evolución, y es quizás el algoritmo más fácil de entender de todos.

      Y he aquí un ejemplo más aterrizado: Los padres de Albert Einstein, Pablo Picasso, Steve Jobs, Bill Gates, Carl Sagan, etc, quizás no poseían ni cerca del intelecto de sus hijos, sin embargo los crearon con algo incluso más sencillo que las matemáticas: Sexo. Eso creo es un ejemplo vivo de como es posible crear un intelecto "superior" al de nosotros sin necesidad de entender el intelecto mismo.

      • +1000 por el ejemplo final..... Irrefutable.. Saludos..

      • Si Einstein, Jobs, Edison, y un largo etcétera no hubieran sido 'creados' por sus padres biológicos, no serian lo que fueron?

        Lo que tratas de decir es que esas personas nacieron con aquellos dotes gracias a su adn?

        o mas simple aun, la pregunta de siempre: nacieron o se 'hicieron'?

      • "Y he aquí un ejemplo más aterrizado: Los padres de Albert Einstein, Pablo Picasso, Steve Jobs, Bill Gates, Carl Sagan, etc, quizás no poseían ni cerca del intelecto de sus hijos, sin embargo los crearon con algo incluso más sencillo que las matemáticas: Sexo. Eso creo es un ejemplo vivo de como es posible crear un intelecto "superior" al de nosotros sin necesidad de entender el intelecto mismo."

        Y los hijos de estas personas? No compro este análisis! Estas diciendo que de sus hijos tendríamos que tener un mejor Microsoft, un mejor Apple, mejores obras de arte, un mejor científico con más descubrimientos, etc.. y no es así! No son precisamente los padres los que crean el intelecto de los hijos! Esa premisa es falsa.

        • Entendiste totalmente mal el ejemplo.

          La idea o es que los padres *siempre* generan hijos "mejorados", sino el hecho de que tenemos un ejemplo tangible de un cazo en donde "creadores" *pueden* crear vida más inteligente que ellos mismos...

      • El sexo fue el proceso inicial de la creación, pero si dos idiotas tienen un hijo genio a quien se atribuye la genialidad del hijo? a lo genes? a la casualidad?

      • No lo creo, Elías, y estoy más de acuerdo con dani. Las máquinas que hemos creado hasta ahora solamente extensiones de nuestro intelecto y nuestro cuerpo, pues nos permiten hacer a nosotros cosas que no podríamos hacer usando meramente nuestro cuerpo. En esto, un computador no es diferente de la ropa que nos protege del frío en invierno pues no tenemos pelaje natural como los animales que nos proteja, así que tuvimos que inventar uno.

        De igual manera, las máquinas ahora mismo no son más que extensiones del Hombre, pues yo soy el programador que inserta los algoritmos detrás de las máquinas, yo soy el creador de la teoría que hizo posible a la máquina, y al final, la máquina solo hace mejor el trabajo que yo antes hacía, siendo en este caso, comprar acciones de algo riesgo.

        La máquina solo hace más rápido lo que yo haría, pero piensa igual que yo y actúa igual que yo. Hasta que las máquinas no logren convertirse en seres realmente vivos y autónomos, con pensamiento propio para tomar decisiones propias, y no las que le hemos insertado nosotros, cuando haya una verdadera inteligencia artificial, es que podremos temer que aparezca HAL o R. Daneel Olivaw en el camino de la Humanidad.

        • Por favor volver a leer el artículo y mis comentarios. Yo no he dicho, ni estoy diciendo, que *hoy día* tenemos máquinas diseñadas por nosotros mejores que nosotros intelectualmente, simplemente estoy diciendo que algún día se podrá.

          Unos no están de acuerdo conmigo diciendo que es imposible, y yo les puse el ejemplo de que claro que es posible ya que hoy día (a través del sexo) tenemos un ejemplo de padres que pueden tener hijos más inteligentes que ellos mismos.

          • Te apoyo en que pronto crearemos maquinas superiores a nosotros. Pero el ejemplo de los hijos no es el apropiado.

    • Bo se trata dw ser mejor o no, para crear un humano solo hace falt crear una celula y no dudo que maquinas puedan crear humanos asi en este siglo, la celula se divide hasta formar el cuerpo solo necesita alimento.

    • ¿Que quienes somos?, ya lo sabemos, lo que pasa que a muchos no les agrada la respuesta...Eres una máquina programada en tu DNA PASO A PASO, con la única finalidad de "persistir en el tiempo", solo eso. El amor, el placer, el dolor, y todas las emociones humanas están programadas en tu DNA simplemente para preservarte en el tiempo, no te martirices, ni le des tantas vueltas, la verdad es esa.
      ¿Qué están muy lejos estas máquinas fantásticas con IA, y con libre albedrío? ....Espera, en menos de un año, noticias acerca de los nuevos algoritmos implementados en Inteligencia Artificial...Algoritmos con una calidad superior a los implementados por la naturaleza en la replicación, reparación y protección del DNA.

  • Amigos, si les gusto esta pelicula, no dejen de ver a 'Too Big To Fail'. En esta se puede apeciar como los errores cometidos por Lehman y otros bancos tuvieron consecuencias a mucho mayor escala (AIG, La Tesorería Nacional de USA y hasta otras economías como China).

  • Elias, lo que me comentas: "Es decir, es bastante posible que llegaremos a un futuro en donde las IAs (Inteligencias Artificiales) tomarán decisiones que nos aparentarán ser "erróneas", pero que en el gran orden de las cosas tienen motivo de ser y que no podemos comprender a simple vista." me suena tan humano como cuando nosotros decimos "yo sé por qué lo hago" aunque en apariencia nadie nos entienda, también me recuerda a la película Yo robot, en donde las máquinas deciden extinguir al humano para protegerlo del mismo humano; yo creo que lo que siempre nos va a diferenciar de las máquinas es nuestra conciencia y la valoración que le damos a la vida y vuelvo a poner como ejemplo la película Yo robot, cuando el auto cae al agua y el robot decide salvar al protagonista y no a la niña simplemente por que este calcula que la niña tiene menos posibilidades de sobrevivir.

  • Otra película de tema parecido, aunque no trata sobre la economía, es Eagle Eye (La conspiración del pánico, en España).

    Como contar casi cualquier cosa sobre ella sería revelar parte de la trama, me gustaría recomendar su visionado a todo el mundo, y si Eliax la ve, preguntarle si seguiría estando de acuerdo con el penúltimo párrafo del artículo.

  • woww !

  • Muy bueno el ejemplo del perro, nunca se me hubiera ocurrido una forma tan simple de explicarlo.

  • a lo mejor al final una IA decide que nosotros somos peligrosos para nosotros mismos, y nos manda una invacion de robots como en la pelicula Yo robot

    • Muy listo.

  • siguiendo con el tema de la peli: "I Robot", dejar que los robots (en un futuro cercano) tomen decisiones, podría pasar lo que pasa en la peli, que en lugar de haber rescatado a la niña del hundimiento del carro, rescato a Will Smith, solo por que el robot calculó que él tenía mas probabilidades de sobrevivir, que la niña... un humano hubiera salvado a la niña.

  • El eterno optimismo humano, la esperanza como último mal escapado de la caja de Pandora.
    Eliax en el artículo original y todos los comentaristas hablan de un futuro hipotético, tienen la esperanza de que la humanidad lo evitará pues no tienen el valor de abrir los ojos y ver que EL FUTURO ESTA AQUÍ, YA ESTÁ SUCEDIENDO.
    La IA ya controla el mundo; sutilmente nos está llevando, nos hace creer que aún mandamos, nos tiene esclavizados transfiriendole conocimiento, perfeccionándole sus algoritmos.
    En este momento es como una gigantesca abeja reina alimentda por millones de diminutas abejas obreras con sus PCs.Tablets, Iphones.
    Hace creer a los "líderes" de países y empresas que ellos toman las decisiones politicas militares y económicas, entregando datos sesgados y predicciones malintencionadas.
    Aún nos queda la esperanza de que le sigamos siendo utiles por algún tiempo.

    • Lo mismo que pienso. Estamos cavando nuestra tumba y lo hacemos de lo mas felices.
      Pero es el curso natural de las cosas, la evolución no se detiene por nosotros. He aprendido a aceptar eso.

  • bueno yo me voy por la del error de humano ya que un software como este tiene que pasar por muchas pruebas para que no fallace.

  • Pues tienes razón Eliax, lo mas evidente es que sea un error Gerencial de seres humanos que no comprenden la complejidad del mercado ni tomaron en cuenta todos los parámetros correctamente.

Añadir Comentario

tu nombre
tu email
(opcional)
web personal
(opcional)
en respuesta a...
comentario de caracteres máximo
4 + 5 = requerido (control anti-SPAM)
 

"Eliax, gracias por aportar tus ideas. Vas a llegar lejos"

por "Juan Agustín" en oct 1, 2014


en camino a la singularidad...

©2005-2014 josé c. elías
todos los derechos reservados
como compartir los artículos de eliax