Concord Monitor – Opinión: ¿Qué pasa si tenemos superinteligencia?

Narain Batra presenta el podcast “America Unbound”. Vive en el Valle Alto.

A mediados de noviembre de 2023, Barbra Streisand, una celebridad de Hollywood, hablando con el presentador de un programa de entrevistas Stephen Colbert, expresó su profunda tristeza por la terrible violencia en curso en Gaza. Ella dijo: “Es triste lo que está sucediendo hoy: la gente tiene que vivir junta, aunque sean de diferentes religiones o lo que sea. Es una locura que no aprendamos a vivir juntos en paz. Fácilmente podría llorar por esto”.

Luego, con su rostro profundamente angustiado, miró hacia arriba y dijo: “¿Dónde está Dios en este tiempo? ¿Dónde está él o ella? ¿Por qué esa energía no puede detener esta locura?

Seguí pensando que en lugar de esperar a que los dioses nos ayuden, y los humanos hemos estado invocando a los dioses durante milenios, ¿qué pasaría si tuviéramos superinteligencia que pudiera mejorar nuestras capacidades intelectuales y colaborar con nosotros para resolver nuestros problemas más difíciles? El ataque de Hamás no surgió de la nada. Se deben haber hecho largos preparativos para su planificación y ejecución, los asesinatos y secuestros, los acontecimientos que conmocionaron al mundo.

Parece que la humanidad ha alcanzado su máximo nivel de competencia. O se podría decir, parafraseando el Principio de Peter, que la humanidad ha alcanzado su nivel de incompetencia. Es nuestra incompetencia la que plantea una amenaza existencial para la humanidad. La Superinteligencia podría haber previsto el horrendo ataque de Hamás contra Israel el 7 de octubre.

De las cuatro categorías de IA, la IA tradicional realiza tareas predefinidas y dentro de su dominio entrenado destaca en el reconocimiento de patrones, el análisis y la toma de decisiones. Pfizer y Moderna aprovecharon la IA para acelerar el descubrimiento, desarrollo, fabricación y distribución de sus vacunas contra la COVID-19.

La IA generativa, ChatGPT y otros grandes modelos de lenguaje imitan y sintetizan contenidos del océano de materiales en los que se entrena. La IA generativa, un modelo conversacional multilingüe basado en indicaciones, tiene el potencial de democratizar el conocimiento. A través de indicaciones fáciles de usar y la disponibilidad de traducción instantánea en varios idiomas, la IA generativa aumentaría el nivel de inteligencia colectiva de las personas y haría que las sociedades sean más productivas. GPT-4o, por ejemplo, responde en texto, audio y video en tiempo real, comparable al tiempo de respuesta humana en una conversación, lo que permite interacciones más naturales y fluidas en más de 50 idiomas, incluidos idiomas distintos del inglés.

Estamos entrando en una nueva era de oralidad interactiva, donde una persona podría utilizar un mensaje oral con un chatbot que abriría la puerta al conocimiento en cualquier campo sin que la persona esté alfabetizada en el sentido tradicional. La IA generativa da un nuevo significado a la frase bíblica: “Busca y encontrarás. Llama y se te abrirá la puerta”.

Cuando la IA generativa esté entrenada para utilizar observaciones y herramientas del mundo real, sus capacidades crecerán exponencialmente. La IA generativa que usa herramientas no sería diferente de los humanos que usan herramientas, excepto que la IA generativa seguiría aprendiendo y mejorando usando las mismas técnicas que usamos para hacer preguntas, investigar e incluso escribir código para incorporarlo a sí mismo para crecer y desarrollarse. evolucionar a un nivel superior.

A medida que los sistemas de IA generativa siguen aprendiendo, el surgimiento de la inteligencia artificial general es inevitable. Esta espiral ascendente de autoaprendizaje que conduce a la inteligencia artificial general, un sistema tan inteligente como los humanos, eventualmente evolucionaría hacia una superinteligencia, un sistema superior a las capacidades cognitivas humanas. Limitados por nuestra biología, incluso los mejores de nosotros dejamos de aprender en algún momento.

La superinteligencia superaría la inteligencia humana en todos los ámbitos, incluido el razonamiento científico, la creatividad y el conocimiento, funcionando a un nivel más allá de la capacidad intelectual de cualquier ser humano, sin importar cuán inteligente sea la persona, Albert Einstein o Robert Oppenheimer, por ejemplo. La superinteligencia vería cosas que nosotros no vemos. Lo más importante es que sería un sistema automejorable que mejoraría recursivamente sus capacidades. Los humanos también siguen mejorando, pero hasta cierto punto. Einstein podría llegar tan lejos.

Los cohetes y satélites espaciales superinteligentes podrían acelerar la exploración y colonización espacial. Podría prever nuevas epidemias y diseñar nuevos medicamentos con una especificidad de objetivo inigualable y efectos secundarios reducidos. Podría modelar sistemas climáticos complejos y guiar el desarrollo de tecnologías de energía limpia. Podría analizar escenarios geopolíticos complejos y proponer soluciones antes de que ocurra la catástrofe. Nos permitiría ver dimensiones de la realidad que no podemos ver debido a nuestra inteligencia limitada.

La superinteligencia nos obliga a afrontar cuestiones fundamentales sobre nosotros mismos y nuestro lugar en el universo. ¿Qué significa ser inteligente? Estrechamente ligada a la inteligencia está la cuestión de la conciencia. Experimentamos el mundo subjetivamente, con emociones, sentimientos y un sentido de identidad. ¿Poseería la superinteligencia esta cualidad? Algunos sostienen que la conciencia es una propiedad emergente de los sistemas complejos y que, con suficiente poder de procesamiento, la superinteligencia podría lograrla. Otros creen que la conciencia es exclusiva de los sistemas biológicos y no puede replicarse en las máquinas. La respuesta a esta pregunta tiene profundas implicaciones.

La imaginación humana, junto con la intuición, es una poderosa capacidad cognitiva que impulsa la creatividad, la resolución de problemas y la capacidad de trascender las limitaciones del momento presente, y da forma a nuestras experiencias individuales y colectivas. ¿Podría la superinteligencia imaginar, soñar, fantasear o mitificar? Este diálogo continuo es crucial para afrontar los desafíos legales, éticos y filosóficos que plantea la superinteligencia. Necesitamos comprender y sentirnos seguros de que la superinteligencia tiene valores alineados con los valores humanos y se convierte en un colaborador para mejorar nuestras libertades y nuestra humanidad.

Mientras Barbra Streisand se preguntaba por qué Dios era indiferente a los sufrimientos humanos en la horrible guerra entre Gaza e Israel, yo me he estado preguntando qué pasaría si una de las mentes más brillantes del siglo XX, Einstein, tuviera un colaborador de inteligencia artificial superinteligente. Su asociación habría sido una fusión alucinante de la creatividad humana y el superpoder de la IA. Desarrollada con las salvaguardias y supervisión adecuadas, la superinteligencia podría ser otro paso incremental en la evolución humana.