La profesora Emily M. Bender tiene una misión: quiere que sepamos que la aparente maravilla de ChatGPT es más bien un loro. No un loro cualquiera, sino un “loro estocástico”. “Estocástico” significa que escoge las combinaciones de palabras según un cálculo de probabilidades, pero no entiende nada de lo que dice. (…) Esa falsa humanidad tiene varios problemas: “Nos provocará confianza. Y no asume responsabilidad. Tiene tendencia a inventarse cosas. Si muestra un texto que es cierto, es por casualidad”, asegura. “Nuestras sociedades son un sistema de relación y confianza. (…) Como individuos que interactuamos con esto, debemos tener cuidado con lo que hacemos con nuestra confianza. Las personas que la construyen deben dejar de hacerla parecer humana. No debería estar hablando en primera persona”, añade. (…) “Si creemos que existe una inteligencia artificial real, también seremos más propensos a creer que claro que podemos hacer sistemas automáticos de decisión que estén menos sesgados que los humanos cuando en realidad no podemos”, dice Bender.
Read More
“¿Eres capaz de escribir un buen poema?”. El modelo de lenguaje —nombre que reciben estas herramientas de inteligencia artificial—, que no se acobarda ante nada, responde: “Aunque es posible crear poesía sin autor humano, la mayoría de la poesía considerada relevante y significativa suele ser creada por un poeta con una identidad y una voz distintiva”. Reconoce, con imposible tranquilidad, que la obra de un autor que carece de biografía no suele despertar mucho interés en los lectores.
Read More
Con un mapa de los desplazamientos del usuario por su domicilio y una tabla con el tiempo empleado en cada estancia se puede elaborar un patrón de comportamiento muy fiel a la realidad. Este esquema de la vida diaria se elabora a partir de la información que recogen varios sensores instalados en la casa a lo largo de un mes y que registran los movimientos de esa persona, la apertura y cierre de puertas y ventanas o el consumo de luz y agua. En cuanto se detecta una anomalía en el patrón habitual -por ejemplo, un tiempo excesivo y no acostumbrado en el baño-, se genera una alerta que llega a familiares y servicios sociales.
Read More
(Hay quien propone un impuesto a los robots) Suena atractivo, pero equivale a gravar a los propietarios de las máquinas. Pongamos que se hace; la siguiente cuestión es cómo se redistribuye la riqueza. ¿Con una renta básica universal? ¿O damos a cada individuo una parte de la propiedad de todas las empresas y así, aunque se reduzcan sus ingresos laborales, siempre recibirá un rendimiento del capital? Cualquiera de estas opciones dará lugar a batallas políticas campales.
Read More
Habrá que educar a las personas con espíritu crítico y que no den por bueno todo lo que la máquina les dice, porque los algoritmos tienen sesgos, comenten errores, fabulan, mienten… Mi trabajo consiste en cerciorarme de que se puede confiar en ellos. Habrá un sello de calidad. Y tendrán que pasar la ‘ITV’.
Read More
Frente al pesimismo que diagnostica la maquinización del ser humano como el final de la creatividad, tal vez pueda sostenerse exactamente lo contrario. Mientras las máquinas imitan a los creadores, estos pueden desafiar las fronteras de lo inimitable.
Read More
¿Dónde está el listón que marca que hay entendimiento? Una respuesta podría ser que el sistema no diga cosas estúpidas o al azar. Eso es complicado, porque la gente definitivamente no cumple ese requisito. Otro posible argumento podría ser que cualquier sistema que esté entrenado solo con lenguaje no puede entender el mundo real porque no tiene ni ojos ni oídos. Vuelve a haber conflicto aquí, porque muchas personas tienen esas carencias. Otra respuesta sería sostener que no es posible que las máquinas puedan entender realmente algo. Pero entonces estás argumentando en contra de la premisa fundamental en la que se basa la neurociencia computacional, que durante los últimos 70 años nos ha ayudado a entender algo mejor cómo funciona el cerebro.
Read More
Para algunos, ser consciente solo quiere decir ser inteligente; para otros, que se puedan sentir emociones. Y para el filósofo David Thomas implica también ser algo para alguien, que haya una experiencia subjetiva detrás. No creo que los seres humanos seamos sobrenaturales: estamos hechos de átomos que interactúan entre sí, no hay nada mágico. Como neurocientífico computacional, creo que es posible que una máquina se comporte como nosotros, en el sentido de que la computación es capaz de simular cualquier tipo de proceso físico.
Read More
Soy una jugadora muy creativa. Me interesa el drama, el espectáculo… Las computadoras calculan mejor y más rápido. Cuando una máquina analiza mis partidas, ve los fallos, pero no aprecia la belleza ni el riesgo…
Read More
Yo hago máquinas que piensan para entender cómo pensamos nosotros. (…) Quizá, cuando implementemos en las máquinas la empatía o el arrepentimiento, entenderemos cómo se forman en nosotros y podamos ser algo mejores.
Read More
El tercer escalón permite responder preguntas del tipo: “y si en vez de hacer esto hubiera hecho esto otro, ¿qué habría pasado?”; es decir, dar marcha atrás en el tiempo e imaginar otros mundos posibles. Este escalón es el que Judea Pearl ha logrado traducir en fórmulas matemáticas.
Read More
Hoy, la inteligencia artificial se halla en el mismo peldaño que los animales: aprende por asociación, no por causalidad. Y es que la asociación no siempre es ‘causa de’. El canto del gallo se asocia con el amanecer, pero no lo causa. (…) Este peldaño hizo que los humanos primitivos se distanciaran de otras especies: empezaron a actuar de forma planificada y no solo por imitación.
Read More
Que nosotros estamos hechos de materia orgánica y las máquinas de silicio. El hardware es diferente, pero es software es el mismo. (…) Quizá pueda haber una diferencia: el miedo a la muerte. Pero no sé, quizá.
Read More
Estamos en el umbral de una revolución trascendental. Los humanos corren el peligro de perder su valor porque la inteligencia se está desconectando de la conciencia. (…) Para ejércitos y compañías comerciales, la respuesta es clara: la inteligencia es obligatoria, pero la conciencia es opcional.
Read More
En el siglo XX, la visión distópica nazi no se diluyó de forma espontánea. Fue derrotada por las visiones igualmente grandiosas del socialismo y el liberalismo. Es peligroso confiar nuestro futuro a las fuerzas del mercado, porque estas fuerzas hacen lo que es bueno para el mercado y no lo que es bueno para la humanidad o para el mundo. La mano del mercado es ciega además de invisible, y si se la deja a su libre albedrío podría no hacer nada con respecto a la amenaza del calentamiento global o del peligroso potencial de la inteligencia artificial.
Read More
