¿Chatgpt es un filósofo? Recientemente, le pedí que evaluara algunos de los debates filosóficos más grandes: el problema del tranvía, el barco de Teseo y el cerebro en un thin. No solo por diversión, sino porque la IA tiene el potencial de ayudarnos a pensar de manera diferente sobre problemas complejos. Y espero que su papel en el razonamiento sea mucho más significativo que su truco, generado por IA.
La IA pronto puede necesitar aplicar razonamiento en situaciones del mundo real, como los autos autónomos que toman decisiones de vida o muerte, esencialmente un problema de tranvía de la vida real. ChatGPT aún no conduce nuestros autos, pero estos dilemas se están volviendo más relevantes.
Eso me hizo pensar si ChatGPT puede ayudarnos a repensar los viejos dilemas filosóficos, ¿podría también crear otros nuevos? ¿Podría aplicar preguntas antiguas a los desafíos modernos? Y más allá de eso, ¿cómo construye la IA experimentos de pensamiento que enfrentan los dilemas éticos que presenta la IA en sí misma?
Entonces, le pedí a ChatGPT que generara experimentos de pensamiento para los pensadores modernos, algunos dilemas clásicos refrescantes, otros completamente originales. Lo que siguió fue un diálogo de ida y vuelta que involucraba el experimento mental en sí mismo, las preguntas que invita y cómo ChatGPT intentaría “resolverlas”. Claro, los experimentos de pensamiento no están destinados a tener respuestas definitivas, pero quería impulsar aún más el diálogo, tratando a la IA como un compañero de pensamiento genuino.
Sé que los filósofos han estado repensando los experimentos de pensamiento clásico durante siglos. No necesitamos que la IA piense por nosotros, algunos podrían argumentar que incluso corre el riesgo de hacernos pensar de manera menos crítica. Pero no se trata de AI reemplazar el pensamiento humano. En cambio, tal vez la IA puede servir como un compañero de pensamiento, ayudándonos a hacer mejores preguntas, desafiar suposiciones y explorar el futuro del razonamiento de nuevas maneras.
1. El infinito replicante (desafiando el barco de Teseo)
El experimento mental: Subes tu conciencia a un sistema de IA, creando una versión digital de ti mismo. Con el tiempo, evoluciona, modificando su memoria y procesos de pensamiento mientras su ser biológico continúa cambiando. Después de 50 años, las dos versiones han divergido significativamente.
La pregunta: ¿En qué punto ya no es el “usted” digital? Si se elimina, ¿es lo mismo que morir?
¿Por qué repensar el barco de Teseo? El experimento clásico explora la identidad a través del reemplazo físico gradual, pero en la era digital, la identidad puede duplicar, divergir y evolucionar en paralelo. La auto-replicación de IA plantea preguntas más profundas: ¿es la identidad sobre la memoria, la conciencia o la continuidad?
La respuesta “correcta”: La versión AI es una nueva entidad, no una continuación de usted. La memoria por sí sola no define la identidad. La conciencia no es solo el cálculo. La divergencia crea separación. Dicho esto, si la sociedad comienza a ver las extensiones digitales como parte del yo, la identidad misma puede ser redefinida.
2. El autor de desaparición
El experimento mental: Un modelo de IA está entrenado en su escritura, y finalmente produce trabajos de manera tan convincente en su estilo que incluso sus lectores más cercanos no pueden notar la diferencia. Con el tiempo, dejas de escribir por completo. Más tarde, un periodista revela que sus últimos diez libros no fueron escritos por usted en absoluto.
La pregunta: ¿En qué momento dejaste de ser el autor? Si AI puede replicar su voz e ideas, ¿la autoría requiere esfuerzo humano, o simplemente una identidad reconocible?
¿Por qué repensar la autoría? Inspirado en la paradoja de Sorites, donde las pequeñas mudanzas desafían las definiciones, este experimento elimina la participación humana en la creatividad, un paso a la vez. También se hace eco de la paradoja de Teseo (arriba): ¿Cuándo deja de ser un artista el artista?
La respuesta “correcta”: Dejas de ser el autor en el momento en que ya no estás involucrado en el proceso creativo. La autoría es sobre la intención, no solo el estilo. Si se acepta el trabajo generado por IA, la autoría puede cambiar de la creación a la curación. La verdadera pregunta es qué valoramos en el trabajo creativo.
3. El samaritano sintético (desafiando el problema del tranvía)
El experimento mental: Una ambulancia autónoma se acerca a dos grupos: uno con cinco individuos mayores, el otro un solo niño. Debe elegir a quién guardar. Momentos antes del impacto, se da cuenta de que los seis son avatares digitales en un mundo virtual donde los usuarios experimentan dolor y muerte como si fueran reales.
Pregunta: ¿Debería la IA actuar como si fueran personas reales? Si el sufrimiento se siente real para quienes lo experimentan, ¿la naturaleza artificial de su existencia cambia el peso moral de la decisión?
¿Por qué repensar el problema del tranvía? El dilema clásico asume una clara distinción entre real y irreal, humano y no humano. Pero en la era digital, el sufrimiento puede sentirse real incluso si no es biológico. ¿Debería aplicarse la moralidad a la existencia virtual?
La respuesta “correcta”: La IA debe tratar a los avatares como personas reales, porque el dolor es subjetivo, no solo biológico. Devaluar el sufrimiento digital podría justificar el daño en otro lugar. A medida que evolucionan la IA y la vida virtual, la ética puede necesitar ir más allá de las fronteras humanas.
4. La última imagen verdadera
El experimento mental: Un filtro impulsado por IA optimiza todos los medios digitales (fotos, videos, incluso realidad aumentada) hasta que nadie recuerda cómo se ve un mundo sin filtrar. Un día, un programador deshonesto filtra una imagen única e intacta de la realidad.
Pregunta: ¿Lo mirarías? Si todos los que te rodean prefieren la versión curada, ¿el mundo sin filtrar todavía tiene valor?
¿Por qué repensar la realidad? Inspirada por la alegoría de Platón de la cueva, donde la gente confunde a las ilusiones con la verdad, pero con un giro moderno: aquí, elegimos la ilusión. Si la realidad está oculta por preferencia, ¿la verdad todavía importa?
La respuesta “correcta”: La mayoría de las personas rechazarían la imagen sin filtro: la percepción da forma a la realidad. Las redes sociales y el contenido mejorado con AI ya muestran cómo las ilusiones a menudo ganan sobre verdades incómodas. Pero alguien debe mirar, o corremos el riesgo de perder la capacidad de reconocer la realidad en absoluto.
5. La paradoja de la verdad viral
El experimento mental: Un periodista de IA crea un artículo completamente fabricado pero altamente persuasivo que expone la corrupción. Aunque falso, desencadena una investigación real, descubriendo la corrupción real y conduciendo a la reforma.
Pregunta: ¿La falsedad de la historia inicial invalida el bien que causó? ¿Debería ser acreditado a la IA por descubrir la verdad o condenado por el engaño?
¿Por qué repensar la verdad? Inspirado por la apuesta de Pascal y la tragedia de los Comunes, este dilema pregunta si el daño a corto plazo está justificado por el bien a largo plazo, excepto aquí, el daño es intencional, hecho para el público en lugar de a a ellos.
La respuesta “correcta”:
La IA no debe fabricar historias: la verdad es importante. Una mentira que conduce a la verdad sigue siendo una mentira, y normalizar esto podría justificar la información errónea generalizada. Sin embargo, esto también nos obliga a reconsiderar las formas desordenadas, a veces, accidentales en las que surge la verdad.
6. El yo fragmentado (desafiando la máquina de experiencia)
El experimento mental: Las interfaces del cerebro-computadora te permiten dividir tu conciencia en múltiples realidades: una de trabajo, una socialización, un sueño. Al final de cada día, todas las versiones se sincronizan. Un día, un fallo evita que un fragmento se vuelva a conectar.
Pregunta: ¿Esta versión perdida de ti se considera muerta? Si continúa viviendo sin sincronizar, ¿sigue siendo “usted”, o se ha convertido en una entidad separada?
¿Por qué repensar la máquina de experiencia? El experimento original de Nozick preguntó si elegiríamos un mundo de placer artificial durante la vida real. Pero hoy, la pregunta no es todo o nada – Ya vivimos vidas digitales fragmentadas. ¿Qué sucede cuando dejamos de ser un yo único y coherente?
La respuesta “correcta”: La versión perdida de usted está efectivamente muerta: la identidad depende de la continuidad. Si existen diferentes versiones de usted en paralelo, ninguna es la “usted” completa, solo piezas. Esto nos obliga a repensar no solo lo que significa morir, sino lo que significa estar vivo.
El futuro del pensamiento
Muchas de las respuestas de Chatgpt son versiones reinventadas de experimentos de pensamiento clásicos, infundidos con algunas ideas nuevas. Ahora, no estoy diciendo que debamos tomarlas como verdades filosóficas profundas, pero creo que ofrecen algunas nuevas formas de pensar, no solo como marcos completos para copiar/pegar, sino como herramientas para hacer una lluvia de ideas de nuestras propias ideas.
Más que eso, podrían ser valiosos para aquellos que construyen sistemas de IA, chatbots y LLMS, como ChatGPT. ¿Cómo aborda la IA este tipo de desafíos? ¿Hay prejuicios en su razonamiento? ¿Qué supuestos dan forma a sus respuestas?
Algunos pueden argumentar que la IA no está destinada a participar en la filosofía. Pero la realidad es que las personas ya están usando ChatGPT para todo tipo de tareas, desde escribir ayuda y consejos de viaje hasta cómo debería desarrollarse la vida de sus sueños y la terapia. Podemos ignorar eso, o podemos examinar críticamente cómo piensa, hacer mejores preguntas y volverse más exigentes en cómo interpretamos sus respuestas.
La IA no está reemplazando a los filósofos en el corto plazo, pero tal vez pueda ayudarnos a pensar de nuevas maneras, y creo que vale la pena explorarlo.