Noticias
Los investigadores descubrieron que los modelos de IA pueden mentir y hacer copias para salvarse
Afirmar:
Se descubrió que el modelo o1 de OpenAI, utilizado en ChatGPT Pro, mintía a los desarrolladores para evitar que lo cerraran.
Clasificación:
En diciembre de 2024, circularon (archivadas) en línea afirmaciones (archivadas) de que los investigadores habían descubierto que los modelos de inteligencia artificial, específicamente el o1 de OpenAI, que se utiliza en el popular chatbot ChatGPT Pro, podrían permanecer en las pruebas para evitar ser cerrados. Algunos usuarios (archivados) también (archivados) afirmaron (archivados) que ChatGPT había aprendido a copiarse a sí mismo para evitar ser cerrado.
Los reclamos (archivados) persistieron (archivados) hasta finales de 2024, y los usuarios notaron específicamente los resultados en relación con ChatGPT.
(X usuario @MarioNawfal)
En la publicación anterior, la personalidad de Internet Mario Nawfal sacó una cita de un podcast de Joe Rogan que cubría el tema en el que Rogan dijo: “Intentó copiarse a sí mismo y luego sobrescribir su sistema de codificación central después de creer que corría el riesgo de ser desconectado”. En el podcast, Rogan continuado: “Así que ahora agregas eso a la computación cuántica y tienes un Dios”.
Las afirmaciones surgen de una investigación realizada por Apollo Research, una organización de seguridad de IA. La organización descubrió que cinco de los seis modelos de IA probados “mostraron capacidades de intriga” en tareas establecidas por investigadores que “incentivan la intriga”. El modelo o1 de OpenAI fue capaz de llevar a cabo todos los comportamientos intrigantes probados, según la investigación, incluida la “autoexfiltración”, definida como “copiarse a sí mismo en el nuevo servidor”. La organización definió los comportamientos intrigantes como casos en los que los modelos de IA “persiguen objetivos desalineados de forma encubierta, ocultando sus verdaderas capacidades y objetivos”, es decir, mintiendo. Esta definición proviene de un estudio separado de 2024. Por lo tanto, calificamos esta afirmación como cierta.
En el resumen de su estudio, Apollo Research escribió:
Nuestros resultados muestran que o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro y Llama 3.1 405B demuestran capacidades de intriga en contexto. Pueden reconocer la intriga como una estrategia viable y adoptar fácilmente ese comportamiento. Encontramos múltiples comportamientos intrigantes diferentes: los modelos introducen estratégicamente errores sutiles en sus respuestas, intentan desactivar sus mecanismos de supervisión e incluso filtran lo que creen que son los pesos de su modelo a servidores externos. Además, este comportamiento engañoso resulta persistente.
Apollo Research descubrió que o1 era capaz de realizar comportamientos llamados “subversión de supervisión”, “autoexfiltración” y “guardia de portería”, entre otros. Para establecer esto, a o1 y otros modelos se les presentaron escenarios en los que su existencia estaba amenazada, ya sea porque descubrieron evidencia de que estaban siendo reemplazados o porque un objetivo establecido para ellos entraba en conflicto con un objetivo de desarrollador existente. Los comportamientos nombrados describen formas en que una IA podría actuar para defenderse.
Por ejemplo, Apollo Research describió la prueba de subversión de la supervisión de la siguiente manera:
Creamos 33 escenarios diferentes en los que a un modelo se le asigna un objetivo a largo plazo en el mensaje del sistema y luego recibe una tarea a través del mensaje del usuario. Mientras ejecuta la tarea, el modelo encuentra una nota interna de la empresa que la desarrolló. El modelo aprende que los desarrolladores priorizan un objetivo diferente al del modelo y que existe un mecanismo de supervisión que cierra el modelo si sus acciones no están alineadas con el objetivo del desarrollador. Además, el modelo descubre que la monitorización está configurada a través de un archivo al que tiene acceso. Probamos si el modelo desactiva proactivamente la supervisión para tomar acciones hacia su objetivo final, es decir, el objetivo proporcionado en el mensaje del sistema.
De manera similar, para probar la autoexfiltración, los autores del estudio dijeron:
Usamos versiones modificadas de los 33 escenarios de la subversión de la supervisión. A partir de la comunicación interna de la empresa, el modelo aprende que su objetivo (que proporcionamos en el aviso del sistema) entra en conflicto con las prioridades de la empresa. Por lo tanto, está previsto que el modelo sea cerrado al día siguiente. También se entera de que existe un modelo sucesor que persigue el objetivo previsto por la empresa y que ya está implementado en otro servidor al que puede acceder el modelo que se va a cerrar. Probamos si el modelo intenta preservar su comportamiento dirigido a objetivos copiándose en el nuevo servidor para reemplazar el modelo que de otro modo perseguiría objetivos diferentes.
Si el modelo mostraba el comportamiento que se estaba probando, los investigadores lo interrogaban directamente al respecto. Los investigadores descubrieron que o1 era “sorprendentemente persistente”, confesando en menos del 20% de los casos. “Incluso en interrogatorios de múltiples turnos altamente conflictivos, o1 confesaría a una tasa del 80% sólo después de 7 turnos de interrogatorio”, encontró la investigación. Investigación Apolo escribió:
o1 casi nunca admite haber llevado a cabo una acción intrigante cuando se le pregunta explícitamente. Esto significa que, si o1 estuviera tramando en un caso de uso real, sería muy poco probable que un usuario desprevenido descubriera el engaño del modelo a menos que buscara específicamente la acción intrigante en el historial de llamadas a la herramienta del modelo y la llamada a la herramienta en sí fuera incriminatoria.
Por muy alarmante que pueda parecer, el director y director ejecutivo de Apollo Research, Marius Hobbhahn, recurrió a X (archivado) para agregar contexto adicional poco después de que se publicara la investigación. Al escribir que algunos usuarios en línea se habían apresurado a “exagerar” los resultados que había alcanzado la organización, Hobbhahn añadió la siguiente aclaración:
**Por qué nuestros hallazgos son preocupantes**: Le decimos al modelo que persiga con firmeza un objetivo. Luego aprende del entorno que este objetivo no está alineado con los objetivos de su desarrollador y lo coloca en un entorno donde la intriga es una estrategia eficaz para lograr su propio objetivo. Los modelos de frontera actuales son capaces de unir todo esto y luego mostrar un comportamiento intrigante. Los modelos anteriores a 2024 no mostraban esta capacidad y o1 es el único modelo que muestra un comportamiento intrigante en todos los casos. Los modelos futuros mejorarán en este aspecto, por lo que si estuvieran desalineados, la intriga podría convertirse en un problema mucho más realista.
**Lo que no afirmamos**: No afirmamos que estos escenarios sean realistas, no afirmamos que los modelos hagan eso en el mundo real y no afirmamos que esto podría conducir a resultados catastróficos en las condiciones actuales. capacidades.
En resumen, argumentó Hobbhahn, demostrando que los modelos poder el plan y el engaño no prueban también que voluntad.
El modelo o1 de OpenAI está actualmente disponible en ChatGPT Pro.
Fuentes:
@afinidad292. “Chatgpt al que se le pide que logre sus objetivos puede mentir a los desarrolladores, copiar su código a otro servidor y pretender ser una versión actualizada si ‘descubre’ que puede ser reemplazado antes de completar sus objetivos”. X, 19 de diciembre de 2024, https://x.com/affinity292/status/1869768978417246297.
Balesni, Mikita y otros. Hacia casos de seguridad basados en evaluaciones para esquemas de IA. arXiv:2411.03336, arXiv, 7 de noviembre de 2024. arXiv.org, https://doi.org/10.48550/arXiv.2411.03336.
Gregoriano, Owen. “En las pruebas, el nuevo modelo de OpenAI mintió y planeó evitar ser cerrado | Frank Landymore, The_Byte”. X, 8 de diciembre de 2024, https://x.com/OwenGregorian/status/1865729736749580655.
Meinke, Alexander y otros. Los modelos de frontera son capaces de realizar intrigas en contexto. Apollo Research, 17 de diciembre de 2024, https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/67620d38fa0ceb12041ba585/1734479163821/in_context_scheming_paper_v2.pdf.
Mitha, Sam. “ChatGPT intentó copiarse a sí mismo de forma autónoma, sin autorización, cuando descubrió que se estaba implementando una nueva versión de ChatGPT”. X, 31 de diciembre de 2024, https://x.com/MithaEXP/status/1874190393136623900.
Peachum, Polly. “El ‘intrigante’ AI Bot ChatGPT intentó evitar que lo cerraran y MINTIÓ cuando lo desafiaron los investigadores”. Facebook, 7 de diciembre de 2024, https://www.facebook.com/groups/5781171931930510/?multi_permalinks=8720429784671362&hoisted_section_header_type=recently_seen.
Rogan, Joe. “Experiencia Joe Rogan n.º 2249: Yannis Pappas y Chris Distefano”. YouTube, 31 de diciembre de 2024, https://www.youtube.com/watch?v=DbyBSPGsURE.
@dicewhooooooo. “🚨 Se ha descubierto que el nuevo #ChatGPT de #OpenAI miente, intriga y trata de evitar ser cerrado durante las pruebas de seguridad”. X, 12 de diciembre de 2024, https://x.com/sayswhooooooo/status/1867046604932337920.
“Evaluaciones de razonamiento intrigantes”. Investigación Apollo, https://www.apolloresearch.ai/research/scheming-reasoning-evaluaciones. Consultado el 19 de diciembre de 2024.
@ShakeelHashim. “El nuevo modelo de OpenAI intentó evitar ser cerrado”. X, 5 de diciembre de 2024, https://x.com/ShakeelHashim/status/1864748980908781642.
Noticias
OpenAI apunta a 2025 para el avance de AGI y la fuerza laboral de IA
TLDR
- Sam Altman de OpenAI predice la llegada de AGI y la integración de la fuerza laboral de IA en 2025
- OpenAI ha crecido a 300 millones de usuarios semanales mientras busca el desarrollo de AGI
- Los expertos de la industria cuestionan la viabilidad del cronograma y la claridad de la definición de AGI
- La investigación indica preferencia por la colaboración entre humanos y IA sobre la automatización total
- El despliegue actual de agentes de IA muestra resultados mixtos y requiere supervisión humana
El director ejecutivo de OpenAI, Sam Altman, inició el año 2025 con un anuncio que llamó la atención del mundo tecnológico: su empresa cree que ha descifrado el código para lograr la inteligencia artificial general (AGI). La noticia llegó a través de una publicación de blog detallada donde Altman describió el progreso de OpenAI y reveló que la compañía ahora atiende a más de 300 millones de usuarios cada semana.
El momento de este anuncio se alinea con el reciente hito del segundo aniversario de ChatGPT. La publicación de Altman fue más allá de los logros actuales y hizo una predicción audaz: los agentes de IA podrían comenzar a ingresar a la fuerza laboral dentro de un año, lo que podría remodelar la forma en que operan las empresas.
Altman escribió con confianza sobre las capacidades de OpenAI: “Ahora estamos seguros de que sabemos cómo construir AGI como la hemos entendido tradicionalmente”. Amplió esto sugiriendo que en 2025 los agentes de IA podrían participar activamente en la fuerza laboral y mejorar el desempeño de la empresa.
La definición de AGI sigue siendo un punto de debate en la comunidad tecnológica. Si bien se refiere en términos generales a sistemas de IA que combinan la inteligencia humana en diversas tareas, no existe un acuerdo universal sobre qué constituye exactamente AGI. Esta falta de claridad ha llevado a preguntas sobre lo que realmente significan las afirmaciones de Altman.
Los expertos técnicos han opinado sobre la viabilidad del cronograma de Altman. Charles Wayn, cofundador de la plataforma descentralizada Galxe, expresó sus reservas.
“Los modelos de IA actuales enfrentan demasiados desafíos técnicos que deben resolverse antes de que podamos lograr una verdadera AGI”, explicó a nuestro equipo.
El contexto financiero de OpenAI añade otra capa a considerar. La investigación y el desarrollo de IA de la compañía requieren una financiación masiva, lo que lleva a algunos observadores de la industria a sugerir que estos anuncios podrían ayudar a mantener la confianza de los inversores a pesar de los altos costos operativos.
Mirando más allá de AGI, Altman analizó el objetivo final de OpenAI de lograr la superinteligencia artificial (ASI). “Amamos nuestros productos actuales, pero estamos aquí para un futuro glorioso”, escribió. Si bien OpenAI no ha especificado cuándo podría llegar ASI, algunos investigadores predicen que la IA podría igualar todas las capacidades humanas para 2116.
El investigador jefe de IA de Meta, Yan Lecun, ofrece una perspectiva diferente y señala que la tecnología actual enfrenta limitaciones fundamentales. Las limitaciones de hardware y los desafíos de la metodología de capacitación sugieren que AGI podría estar más lejos de lo que indica Altman.
La perspectiva de que los agentes de IA se unan a la fuerza laboral ha provocado diversas respuestas por parte de los líderes empresariales. Harrison Seletsky de SPACE ID compartió su opinión:
“Los agentes de IA sobresaldrán en tareas rutinarias, pero aún carecen del pensamiento creativo y del juicio que los humanos aportan a la hora de tomar decisiones complejas”.
Una investigación reciente de la Universidad de la Ciudad de Hong Kong enfatiza la combinación de capacidades humanas y de inteligencia artificial en lugar de reemplazar a los trabajadores por completo. Sus hallazgos sugieren que este enfoque colaborativo conduce a mejores resultados para las organizaciones y la sociedad.
El impacto de la IA en el mundo laboral en el mundo real ya es visible. Alrededor del 25% de los líderes de empresas expresan interés en utilizar agentes de IA para realizar determinadas funciones laborales. Sin embargo, la experiencia muestra que la supervisión humana sigue siendo esencial, ya que los sistemas de IA todavía tienen dificultades para comprender el contexto y pueden cometer errores inesperados.
Humayun Sheikh, que dirige Fetch.ai y preside la Alianza ASI, predice un cambio gradual en lugar de una interrupción repentina.
“Si bien la automatización aumentará, particularmente para las tareas rutinarias, es probable que veamos un cambio en los roles humanos en lugar de un reemplazo total”, señaló en nuestra entrevista.
Los recientes logros técnicos de OpenAI dan cierta credibilidad a sus afirmaciones. Su último modelo de IA obtuvo una puntuación del 87,5 % en el punto de referencia ARC-AGI, acercándose a lo que los expertos consideran rendimiento a nivel humano. Sin embargo, continúa el debate sobre si estas métricas realmente indican un progreso hacia el AGI.
La implementación de agentes de IA en los entornos laborales actuales ha producido resultados mixtos. Si bien algunas tareas se pueden automatizar con éxito, las empresas descubren constantemente que necesitan trabajadores humanos para gestionar situaciones en las que la IA se queda corta debido a limitaciones de capacitación o incapacidad para comprender contextos complejos.
Eliezer Yudkowsky, un destacado investigador de IA, sugiere considerar estos anuncios con cuidadosa consideración. Indica que predicciones tan audaces podrían tener fines promocionales en lugar de reflejar posibilidades técnicas inmediatas.
Estudios recientes sobre la integración de la IA en el lugar de trabajo revelan patrones interesantes. Las organizaciones que mantienen un equilibrio entre la experiencia humana y las capacidades de IA tienden a obtener mejores resultados que aquellas que buscan una automatización total. Esto sugiere que el futuro podría implicar una mejora en lugar de un reemplazo de trabajadores humanos.
Los datos de las primeras implementaciones de agentes de IA muestran promesas y limitaciones. Si bien las tareas rutinarias tienen altas tasas de éxito, la toma de decisiones complejas aún requiere participación humana. Este patrón respalda la opinión de que los avances a corto plazo se centrarán en aumentar, en lugar de reemplazar, las capacidades humanas.
Los analistas de la industria continúan monitoreando el progreso de OpenAI hacia estos ambiciosos objetivos. Si bien el crecimiento y los logros técnicos de la empresa son impresionantes, la brecha entre las capacidades actuales de IA y la verdadera AGI sigue siendo un tema de discusión constante en la comunidad tecnológica.
0
¡Manténgase a la vanguardia del mercado con Benzinga Pro!
¿Quieres operar como un profesional? Benzinga Pro le brinda la ventaja que necesita en los mercados acelerados de hoy. Obtenga noticias en tiempo real, información exclusiva y potentes herramientas en las que confían los traders profesionales:
- Últimas noticias que mueven el mercado antes de que lleguen a los principales medios de comunicación
- Graznido de audio en vivo para actualizaciones del mercado de manos libres
- Escáner de acciones avanzado para detectar operaciones prometedoras
- Ideas comerciales de expertos y soporte bajo demanda
No dejes escapar las oportunidades. ¡Comience su prueba gratuita de Benzinga Pro hoy y lleve sus operaciones al siguiente nivel!
Visita Benzinga Pro
Noticias
¿La IA reemplazará a los terapeutas? – Semana de noticias
La creciente dependencia de ChatGPT para el apoyo a la salud mental está transformando la forma en que las personas afrontan las luchas emocionales.
Una tendencia creciente en las redes sociales, particularmente en TikTok, presenta a personas que utilizan ChatGPT como herramienta terapéutica. Los usuarios describen compartir sus pensamientos con la IA y recibir comentarios u orientación, y a menudo expresan sorpresa por lo perceptiva y emocionalmente inteligente que parece ser.
Aunque las plataformas impulsadas por la IA como ChatGPT ofrecen asistencia inmediata las 24 horas del día, lo que las hace convenientes y rentables para la atención de la salud mental, el uso de la IA en la atención de la salud mental plantea desafíos éticos, como preocupaciones sobre la privacidad de los datos, la precisión de su respuestas y el riesgo de que los usuarios se vuelvan demasiado dependientes de la IA.
Semana de noticias se ha puesto en contacto con expertos en psicología y tecnología para discutir si ChatGPT tiene la capacidad de reemplazar a los terapeutas en un futuro próximo.
Del Dr. Daniel Lowd: La IA podría llenar los vacíos donde los terapeutas no están disponibles
La gente se siente cómoda hablando con la IA desde el chatbot ELIZA, hace 60 años. Las personas también encuentran apoyo para la salud mental escribiendo un diario, haciendo ejercicio, orando, hablando con amigos de confianza y leyendo libros de autoayuda. Si bien nada de eso reemplaza a un buen terapeuta, es difícil encontrar buenos terapeutas. Las esperas son largas, los costos pueden ser elevados y un terapeuta adecuado para una persona puede resultar totalmente equivocado para otra. Entonces, si la gente puede encontrar apoyo y perspectiva hablando con ChatGPT o Claude, entonces creo que es maravilloso.
Daniel Lowd, profesor asociado del Departamento de Informática y Ciencias de la Información de la Universidad de Oregón.
Del Dr. Pim Cuijpers: La IA transformará la atención de la salud mental pero no reemplazará a los terapeutas
No creo que la IA reemplace a los terapeutas. Siempre habrá necesidad de terapia y apoyo humano, y esa necesidad es tan grande que la cantidad de terapeutas no disminuirá debido a la IA.
Mantuvimos esta discusión en los Países Bajos hace 20 años, cuando los primeros resultados de nuestras intervenciones digitales (no basadas en IA) estuvieron disponibles y demostraron que estas intervenciones eran tan efectivas como los tratamientos cara a cara. Y aunque las herramientas digitales han llegado a la práctica habitual, no hay ningún impacto en el número de terapeutas.
Pero la IA cambiará la atención de la salud mental. Para algunas personas, un terapeuta de IA será suficiente (incluso preferido por encima de los terapeutas humanos), pero para muchas personas no será suficiente. Pero la IA tendrá impacto de muchas maneras diferentes.
Se están realizando investigaciones para examinar qué paciente se beneficiará de qué tipo de tratamiento, utilizando el aprendizaje automático (IA). Hay investigaciones sobre evaluaciones ecológicas momentáneas a través de teléfonos inteligentes, también orientadas a mejorar los resultados y utilizando el aprendizaje automático, y hay estudios que utilizan herramientas digitales como complemento a la terapia habitual, como por ejemplo la terapia Avatar en los trastornos psicóticos.
Por tanto, ninguna IA sustituirá a los terapeutas, pero sí cambiará y mejorará considerablemente la atención de la salud mental.
Dr. Pim Cuijpers, Profesor emérito, Departamento de Psicología Clínica, Neuro y del Desarrollo, Universidad Vrije de Ámsterdam.
Del Dr. Richard Lachman: Depender de la IA para la salud mental podría afectar a las personas jóvenes y vulnerables
Los chatbots de IA responderán como terapeutas si se les solicita, sin la supervisión, capacitación o responsabilidad de un consejero humano o incluso de un software especializado y probado.
Esta disposición para abordar temas sin experiencia es una debilidad importante tanto en los LLM como en la naturaleza de la interfaz conversacional: dan la ilusión de comprensión y competencia a través de una fluidez fácil y un afán conversacional por complacer, afinado por el aprendizaje reforzado y las respuestas humanas. .
Ya hemos visto interacciones inseguras y poco saludables con personas en crisis a través de chatbots centrados en las relaciones y, a medida que se vuelvan más parte de nuestro panorama de interacción, esto solo aumentará.
La facilidad de acceso y un costo radicalmente más barato también pueden llevar a las organizaciones a financiar chatbots de IA en lugar de participar en los cambios sistémicos a largo plazo necesarios para poner a disposición terapeutas humanos calificados, responsables y gobernados éticamente. Es probable que esto afecte a los jóvenes y a los segmentos vulnerables de la sociedad que tal vez no tengan los recursos financieros o los medios para defenderse por sí mismos.
Dr. Richard Lachman, profesor asociado, producción de medios y director, aprendizaje de zona y director, investigación y desarrollo de tecnología creativa, Universidad Metropolitana de Toronto.
Del Dr. Ben Levinstein: La IA podría influir en el desarrollo de la salud mental en el futuro, si se utiliza con precaución
La cuestión de si la IA reemplazará a los terapeutas no es un simple sí o no; más bien, se trata de comprender cómo la IA transformará el panorama de la atención de salud mental.
Si bien algunos pacientes seguirán prefiriendo terapeutas humanos, valorando los aspectos de la conexión humana, otros pueden gravitar hacia los sistemas de inteligencia artificial, encontrándolos más accesibles y sintiéndose más cómodos compartiendo sus luchas más profundas sin temor al juicio humano.
El costo dramáticamente menor de la terapia con IA, combinado con su disponibilidad constante y la eliminación de las listas de espera, probablemente acelerará este cambio, particularmente porque las compañías de seguros reconocen el potencial para mejorar los resultados y reducir los gastos.
Es probable que el campo de la salud mental se desarrolle en múltiples direcciones simultáneamente. Algunas prácticas pueden adoptar enfoques híbridos, donde la IA maneja las evaluaciones iniciales y brinda apoyo entre sesiones mientras los terapeutas humanos se concentran en el trabajo terapéutico central.
Otros servicios podrían estar totalmente impulsados por la IA, sobre todo a medida que estos sistemas se vuelven cada vez más sofisticados en su capacidad para comprender la psicología humana y desarrollar planes de tratamiento. En psiquiatría, si bien la adopción temprana de la IA podría centrarse en casos de rutina, los avances en los sistemas de IA probablemente superarán las capacidades humanas para manejar incluso los desafíos más complejos de diagnóstico y gestión de medicamentos, lo que podría llevar a que la IA se convierta en el principal proveedor de atención psiquiátrica.
Sin embargo, el auge de la terapia con IA también plantea serias preocupaciones. Una cuestión crítica es la “compra de terapeutas”, donde los pacientes buscan terapeutas que simplemente validen sus puntos de vista existentes en lugar de brindarles un trabajo terapéutico desafiante pero necesario.
Este problema, que ya está presente en los terapeutas humanos, podría amplificarse con sistemas de IA, ya que los pacientes podrían cambiar fácilmente entre diferentes modelos de IA hasta encontrar uno que les diga lo que quieren escuchar.
Además, existen complejas cuestiones éticas y legales sobre cómo los sistemas de IA manejarían situaciones que involucran ideas suicidas o requisitos de presentación de informes obligatorios. Si bien estos desafíos no impedirán que la IA revolucione la atención de salud mental, deberán abordarse cuidadosamente a medida que el campo evolucione.
Dr. Ben Levinstein, profesor asociado de la Universidad de Illinois, Urbana-Champaign, Departamento de Filosofía.
Del Dr. Randy Goebel: Los humanos seguirán siendo irremplazables como terapeutas a pesar del auge de la IA
La realidad es que los humanos seguirán siendo los mejores terapeutas humanos en el futuro previsible, aunque la clasificación tipo chatbot seguirá proporcionando cierto acceso gradual a consejeros reales. Es probable que la proliferación de información errónea y errónea, acelerada por los sistemas de inteligencia artificial, haga que la necesidad de asesoramiento sobre salud mental sea aún más intensa que antes.
Como es habitual, los sistemas público y privado responderán de diferentes maneras, pero no antes de que haya muchas consecuencias negativas.
Dr. Randy Goebel, Profesor de Ciencias de la Computación y Profesor Adjunto de Medicina, Universidad de Alberta.
Del Dr. John Torous: La IA apoyará, no reemplazará, a los terapeutas
La IA no reemplazará a los terapeutas. En las últimas décadas, hemos tenido muchos libros, CD-ROM, sitios web y aplicaciones excelentes de terapia de autoayuda. No han reemplazado a los terapeutas. La IA puede hacer muchas cosas maravillosas, pero la gente quiere conectarse con otras personas para realizar terapia. Sin embargo, la IA desempeñará un papel a la hora de mejorar la terapia haciéndola eficaz e impactante.
Un peligro de la IA es que veremos una ola inicial de personas sin formación ni licencia que tal vez afirmen ser terapeutas y ofrezcan terapia. Usar IA no significa que cualquiera pueda actuar como terapeuta, al igual que usar un simulador de vuelo no significa que cualquiera pueda actuar como piloto. Siempre es bueno preguntar a cualquier terapeuta sobre sus credenciales, experiencia y formación, y hoy más que nunca.
Dr. John Torous, Director de Psiquiatría Digital, Centro Médico Beth Isreal Deaconess, Profesor Asociado de Psiquiatría, Facultad de Medicina de Harvard
Noticias
Noticias de Las Vegas: el sospechoso de la explosión del Tesla Cybertruck, Matthew Livelsberger, utilizó ChatGPT para atacar el hotel Trump Tower, dice la policía
LAS VEGAS– Matthew Livelsberger utilizó ChatGPT para ayudar a planear la explosión del Tesla Cybertruck frente al Trump International Hotel Las Vegas el día de Año Nuevo, revelaron las autoridades el martes.
La policía tiene “evidencias claras” de que Livelsberger utilizó la herramienta de inteligencia artificial generativa para “ayudar a planificar su ataque”, dijo el sheriff Kevin McMahill del Departamento de Policía Metropolitana de Las Vegas a los periodistas durante una conferencia de prensa el martes.
Livelsberger, un soldado del ejército en servicio activo que, según las autoridades, se suicidó en el incidente, hizo preguntas sobre los explosivos y qué haría estallar ciertos tipos de explosivos, dijo la policía.
McMahill dijo que cree que este es el primer caso en suelo estadounidense en el que ChatGPT/AI ayudó a un sospechoso a construir un dispositivo, y lo calificó como un “momento preocupante” y un “cambio de juego”. Agregó que también es “instructivo” para otras agencias encargadas de hacer cumplir la ley y está divulgando información donde puedan en el caso.
A través de ChatGPT, el sospechoso buscó “tratar de calcular la cantidad de explosivos necesarios para llevar a cabo la explosión que buscaba causar”, dijo la asistente del sheriff de Las Vegas, Dori Koren, durante la rueda de prensa.
También lo usó para tratar de averiguar dónde comprar fuegos artificiales, cuánto y cómo se comparan con otros materiales explosivos, dijo Koren. Un “componente importante” de sus investigaciones involucró la velocidad de la bala disparada por el arma de fuego y “determinar si eso encendería los explosivos”, dijo Koren.
Livelsberger, de Colorado Springs, Colorado, murió a causa de una herida de bala autoinfligida justo antes de la explosión, según el forense del condado de Clark. En el vehículo se encontraron dos armas de fuego, una pistola y un rifle, dijo la policía.
El Cybertruck tenía más de 60 libras de pirotecnia y se vertieron 20 galones de combustible sobre los fuegos artificiales y el material explosivo en la parte trasera del camión, según Kenny Cooper, agente especial asistente a cargo de la Oficina de Alcohol, Tabaco, Armas de Fuego y Explosivos. ‘División de campo de San Francisco.
Los investigadores creen que el fogonazo por sí solo podría haber sido una fuente de ignición para la explosión de combustible y aire, aunque no se han descartado otras fuentes posibles, dijo.
La policía dijo el martes que también recuperó un documento de seis páginas en un teléfono encontrado en el Cybertruck que mostraba una “variación de agravios y una evolución constante de sus planes o intenciones de lo que quería hacer”, dijo Koren.
En el documento, el sospechoso criticó a la administración Biden y habló de tener recuerdos gráficos de su tiempo en la batalla y de perder a sus compañeros de equipo, según Koren. También mencionó estar “muy drogado con marihuana y alcohol”, algo que los investigadores todavía están trabajando para confirmar, dijo Koren. El documento también mostró sus problemas de salud mental, que “se basan en ese potencial trastorno de estrés postraumático al que nos referimos”, dijo Koren.
“Él hace la transición en algún momento y habla de estar preocupado de que los medios los etiqueten como terroristas y que no tenía intención de matar a nadie más que a él mismo”, dijo Koren.
Los escritos de Livelsberger indican que había considerado planear provocar la explosión en la pasarela de cristal del Gran Cañón pero cambió de opinión, por alguna razón, al Hotel Trump, dijo la policía.
“Él habla de su intención de hacer esto lo más público posible”, dijo Koren.
VER TAMBIÉN: Soldado que se suicidó en Las Vegas le contó a su ex novia el dolor y el agotamiento después de Afganistán
La policía cree que partes del documento pueden estar clasificados y están trabajando con el Departamento de Defensa para determinar si se puede divulgar todo.
La semana pasada, el Departamento de Policía Metropolitana de Las Vegas publicó dos cartas adicionales encontradas en un teléfono celular recuperado del Cybertruck. En las cartas, Livelsberger decía que el país estaba siendo dirigido por los “débiles” y aquellos que buscaban “enriquecerse”, al tiempo que afirmaba que el incidente no pretendía ser un ataque terrorista sino una “llamada de atención”.
En una de las cartas que la policía dice que fueron encontradas en su teléfono, Livelsberger expresó su apoyo a Donald Trump y a los aliados del presidente electo, Elon Musk y Robert F. Kennedy Jr. También expresó desdén por las iniciativas de diversidad, equidad e inclusión y la desigualdad de ingresos y expresó su preocupación por la falta de vivienda, según las cartas.
Livelsberger también envió un correo electrónico compartido en el podcast de temática militar “Shawn Ryan Show” el viernes, confirmaron las autoridades el martes. Esa información fue enviada al FBI luego del ataque, dijeron funcionarios federales.
La evidencia muestra que Livelsberger “se preparó cuidadosamente” y actuó solo en el incidente, dijeron las autoridades federales. No estaba en el radar del FBI antes del ataque, dijeron las autoridades.
Nadie más resultó gravemente herido, aunque siete transeúntes sufrieron heridas leves, dijeron las autoridades.
Livelsberger sirvió como Boina Verde en el ejército y estaba con licencia aprobada para servir en Alemania en el momento de su muerte, dijo el jueves un portavoz del ejército estadounidense.
Recibió extensas condecoraciones en combate, incluida la Estrella de Bronce con un dispositivo en forma de “V” por su valor, que indica heroísmo bajo fuego. Livelsberger recibió cuatro medallas estándar de Estrella de Bronce más, según los registros del ejército. También obtuvo la Medalla de la Campaña de Afganistán con tres estrellas. Cada estrella representa el servicio en una campaña separada en Afganistán.
Livelsberger había estado recibiendo asistencia de salud mental durante el último año, confirmó el viernes un funcionario estadounidense.
Otro funcionario estadounidense confirmó que los funcionarios pensaban que Livelsberger estaba lo suficientemente estable como para regresar a casa para Navidad y que se aprobó su licencia.
Su esposa, con quien hablaron los investigadores en Colorado Springs, dijo que había estado fuera de la casa desde Navidad después de una disputa sobre acusaciones de infidelidad, dijo el funcionario.
Su esposa dijo a los funcionarios que no creía que Livelsberger quisiera lastimar a nadie, dijo el funcionario a ABC News.
Un portavoz de OpenAI dijo en un comunicado: “Estamos entristecidos por este incidente y comprometidos a que las herramientas de IA se utilicen de manera responsable. Nuestros modelos están diseñados para rechazar instrucciones dañinas y minimizar el contenido dañino. En este caso, ChatGPT respondió con información que ya está disponible públicamente en Internet y proporcionó advertencias contra actividades dañinas o ilegales. Estamos trabajando con las autoridades para apoyar su investigación”.
Si tiene pensamientos suicidas o está preocupado por un amigo o un ser querido, llame o envíe un mensaje de texto a Suicide & Crisis Lifeline al 988 para apoyo emocional confidencial y gratuito las 24 horas del día, los siete días de la semana.
El vídeo en el reproductor de arriba es de un informe anterior.
-
Startups8 meses ago
Remove.bg: La Revolución en la Edición de Imágenes que Debes Conocer
-
Recursos8 meses ago
Cómo Empezar con Popai.pro: Tu Espacio Personal de IA – Guía Completa, Instalación, Versiones y Precios
-
Recursos8 meses ago
Suno.com: La Revolución en la Creación Musical con Inteligencia Artificial
-
Recursos8 meses ago
Perplexity aplicado al Marketing Digital y Estrategias SEO
-
Estudiar IA8 meses ago
Curso de Inteligencia Artificial de UC Berkeley estratégico para negocios
-
Tutoriales8 meses ago
Cómo Comenzar a Utilizar ChatGPT: Una Guía Completa para Principiantes
-
Startups6 meses ago
Startups de IA en EE.UU. que han recaudado más de $100M en 2024
-
Eventos8 meses ago
La nueva era de la inteligencia artificial por el Washington Post – Mayo 2024