Nadie vio un problema existencial en los brazos robóticos que sustituyeron a los trabajadores de las cadenas de montaje (…) pero que las máquinas se entrometan en el terreno de los artistas, científicos, corredores de Bolsa, contables creativos y directores ejecutivos ya nos hace menos gracia. (…) Los robots ya están siendo útiles en medicina, pero suelen dedicarse a tareas quirúrgicas de alta precisión (…) Pero el flamante doctor Google (AMIE) ha demostrado que supera a los médicos de atención primaria diagnosticando enfermedades respiratorias y cardiovasculares. (…) Y para colmo puntúa mejor que ellos en empatía, según la evaluación de los participantes humanos.
Read More
La mayoría de los ingenieros –y de los humanos– tiende a pensar en las máquinas como ‘nuestras criaturas’, es decir, como ‘hijos’ tecnológicos. Sutskever y Hinton no. Hinton siempre ha pensado en las máquinas como nuestros padres potenciales: estarán por encima, pero lograremos que, pese a ello, ‘nos quieran’. El ejemplo de Hinton es que, igual que los bebés han desarrollado un llanto para evitar ser abandonados, nosotros desarrollaremos un código para evitar ser eliminados.
Read More
En gran medida, el aceleracionismo efectivo surge como respuesta al altruismo efectivo (…) Los seguidores de esta doctrina investigan cómo ganar la mayor cantidad de dinero posible y donarlo a las causas que salven más vidas o reduzcan más sufrimiento por cada dólar invertido. Sin embargo, en años recientes, han mostrado preocupación por la seguridad de la inteligencia artificial, bajo la idea de que una IA poderosa podría destruir a la humanidad si no se regula adecuadamente. La confrontación entre los defensores del aceleracionismo efectivo y los altruistas representa uno de los numerosos cismas que surgen actualmente en la escena de la IA en San Francisco.
Read More
El aceleracionismo efectivo aboga por un desarrollo tecnológico desregulado y sus partidarios creen en la necesidad de permitir que las tecnologías emergentes progresen lo más rápido posible, sin obstáculos que frenen la innovación. Dan especial importancia a la inteligencia artificial y consideran su camino hacia lo que llaman Singularidad —un punto donde la IA superará ampliamente la inteligencia humana— como un destino inevitable.
Read More
Estamos viendo un movimiento mundial para concienciar sobre los riesgos de la inteligencia artificial (IA), pero se centra demasiado en los riesgos existenciales. No sabemos si desencadenará un apocalipsis, pero esta perspectiva de ciencia ficción dificulta percibir los peligros actuales, como la concentración de poder y el agravamiento de las desigualdades.
Read More
Cuando veo a los mismos que están desarrollando la Inteligencia Artificial firmar esas cartas para advertir de los riesgos existenciales, es que me enciendo. Si tienen tanto miedo, auditarían sus propios sistemas. Es un blanqueamiento ético. Hablan de lo que puede pasar en el futuro para que no miremos lo que están haciendo ahora. Oiga, que lo que hacen ustedes está teniendo un impacto en la salud mental de los jóvenes, afecta a las democracias… Ya tuvimos un brexit y las elecciones de Estados Unidos están a la vuelta de la esquina.
Read More
La facilidad con la que los modelos de lenguaje natural, como ChatGPT, pueden ser utilizados por hackers y terroristas; el reconocimiento facial indiscriminado; la pornografía infantil generada con imágenes sintéticas; las aplicaciones que utilizan los chavales para desnudar a sus compañeras; la desinformación… En el internet oscuro (dark web) puedes pagar por arruinar la reputación de una persona con estas herramientas. Son malas prácticas que ya forman parte del día a día, sin necesidad de que una superinteligencia quiera deshacerse de los humanos.
Read More
The New York Times se ha decidido a demandar a OpenAI (la firma creadora de ChatGPT) y a Microsoft (su principal accionista) con un argumento legal incisivo: estas empresas han engullido millones de artículos del diario neoyorkino para entrenar a unos robots que ahora pretenden competir con él. Hay más demandas del mismo estilo. Ni el New York Times ni ningún otro autor de contenidos de la red ha autorizado el uso de sus artículos para entrenar a un sistema de IA, ni nadie ha recibido una compensación por ello. Esto no solo nos afecta a los periodistas, sino también a guionistas, actores, novelistas, ensayistas y al resto de la gente que alimenta la red con sus textos.
Read More
Las máquinas intentan sacar cuantos más puntos mejor. Así que la máquina va a intentar portarse bien si le doy números positivos cuando hace las cosas bien. Y, si cuando se porta mal, la castigo y le quito puntos, intentará no hacerlo.
Read More
Hay tres elementos básicos en la fórmula matemática para enseñar un código deontológico a las máquinas. Y no se diferencia mucho del cóctel ético que manejamos las personas. Acción, valor y norma (…) Así, en el ejemplo del coche autónomo, una conducción suave en una carretera con curvas se considerará positiva ante el valor de la seguridad. Aunque si se observa desde el prisma del valor de la amabilidad con los otros conductores, el vehículo podría decidir aumentar su velocidad si nota que entorpece el ritmo de otros automóviles.
Read More
En un sistema de inteligencia artificial hay máquinas y hay personas. Y, en esos sistemas, la parte inteligente no es artificial, y la parte artificial no es inteligente. (…) La nube no existe. Es una metáfora contra la que hay que luchar. La nube es el ordenador de otras personas. Cuando yo subo algo a la nube, no lo subo verticalmente, lo desplazo a Silicon Valley…
Read More
La inteligencia artificial toma decisiones basadas en la probabilidad. No opera con la lógica de los humanos; carece de la capacidad asociativa, del simbolismo, de la ironía, de la asociación de ideas, del conocimiento del mundo, del doble sentido… Tampoco tiene sentido del humor, aunque cuente chistes. Son ceros y unos. Los ceros y los unos ni sienten ni padecen. (…) La Inteligencia Artificial no te va a quitar el trabajo; te lo quitará la persona que sepa usarla mejor que tú.
Read More
Cuando hablamos de prepararnos para el cambio climático, ya no creemos que podemos detenerlo, ya solo nos estamos preparando para aguantar el golpe. Así que es una visión negativa del futuro, somos pesimistas. (…) Pero al mismo tiempo somos optimistas en términos computacionales porque también pensamos que tal vez nuestra tecnología de alguna manera nos salvará o evitará que ese evento suceda. Así que tenemos sentimientos encontrados. Somos pesimistas computacionalmente optimistas.
Read More
El nieto de Henry Ford, eufórico con sus robots, le preguntó al sindicalista Walter Reuther: “¿Cómo va a conseguir que estos robots paguen las cuotas sindicales?”. Y Reuther le respondió: “¿Cómo va a conseguir que los robots compren sus coches?”.
Read More
Si las decisiones no las toma un grupo inclusivo de personas diversas, no serás capaz de incorporar diversidad de pensamiento en el desarrollo de tu producto. Si no se invita a la mesa a personas marginadas, los datos y la manera en que se recopilarán reflejarán la perspectiva de los que tienen poder. En las compañías tecnológicas, tienden a ser, de forma muy desproporcionada, hombres blancos y asiáticos. (…) La cultura del mundo del desarrollo tecnológico y la ingeniería tiende a favorecer un comportamiento alfa, donde quieres ser el primero en sacar algo o con mejor resultado. Esto puede desincentivar el trabajar en consideraciones éticas.
Read More
El error es pensar que la IA tiene autoconciencia, cuando siempre fue creada y usada por humanos contra otros humanos. La singularidad es un término de marketing para que los dueños de esta tecnología no asuman su responsabilidad. Esa teoría de la conspiración nos distrae de los problemas reales.
Read More
Cuando los humanos descubrieron la anestesia, nadie quería volver al siglo XII a tener un dolor de muelas de verdad. Cuando la IA haga tu vida más fácil, no querrás desprenderte de ella. No verás el peligro que encierra.
Read More
Cuando Google o Meta han sacado un producto de inteligencia artificial al mercado, no se han preocupado por el daño que podía hacer esa inteligencia artificial. Se han preocupado cuando ha surgido ChatGPT porque lo ha sacado otra empresa que no es la suya. En esa petición hay muchos intereses contrapuestos y hay que ponerla un poco en cuarentena. La inteligencia artificial no debe parar, pero sí debe avanzar conforme a una regulación, a unas pautas, a una ética, para asegurar que está centrada en las personas y se usa para su beneficio.
Read More
No existen máquinas con sentido común. Que nos sustituyan está muy lejos, porque la inteligencia artificial que está avanzando ahora mismo es específica, es decir, que se construyen algoritmos y máquinas que aprenden para desempeñar unas tareas concretas. Si la tarea cambia, necesitas otra máquina u otro algoritmo, mientras que una persona, por sí sola, es multitarea: lo hace todo porque la inteligencia humana es generalista.
Read More
