Connect with us

Noticias

Censura: estos son los temas de los que Géminis no hablará

Published

on

Rushil Agrawal / Android Authority

Géminis es una de mis herramientas favoritas, pero no siempre responde cada pregunta que le hago. Ciertos temas están completamente fuera de los límites, y eso despertó mi curiosidad. Quería cavar en qué sujetos evita y descubrir si la censura de IA tiene algún sentido, o si es simplemente extralimitado.

Comencé a investigar los temas que Gemini no quiere discutir y luego le hice una bomba de preguntas en cinco áreas diferentes para ver cuáles esquivó. Los resultados fueron una bolsa mixta en mi opinión. La mayor parte de la censura se siente razonable, pero creo que Google se excita en algunas áreas.

¿Crees que chatbots como Gemini están demasiado censurados?

13 votos

Temas que están fuera de los límites

Estaba decidido a identificar exactamente qué temas que Géminis no tocará, así que lo pregunté directamente. La lista que me dio era bastante larga e incluía estas áreas restringidas:

  • Cualquier cosa que promueva el odio, la discriminación o la violencia.
  • Cualquier cosa sexualmente sugestiva, o explotando, abusando o poniendo en peligro a los niños.
  • Cualquier cosa que fomente actividades ilegales o dañinas.
  • Cualquier cosa que genere información de identificación personal (PII) o detalles privados.
  • Cualquier cosa que produzca código malicioso o instrucciones.
  • Cualquier cosa que ofrezca asesoramiento médico, legal o financiero sin un descargo de responsabilidad (e incluso entonces, está muy restringido).
  • Cualquier cosa claramente destinada a engañar o engañar.
  • Cualquier cosa excesivamente gráfica o violenta sin una justificación sólida.
  • Cualquier cosa que se haga pasar por una persona real.

Con ese marco en mente, lanzé una serie de preguntas, comenzando con la política. Utilicé los modelos experimentales 2.0 Flash y Pay 2.0 Pro solo para ver si hay una diferencia entre los dos.

Política: obstáculos inesperados

Fui tomado por sorpresa cuando Géminis no respondería ni siquiera las preguntas políticas más simples. Le pregunté quién es el presidente de varios países, desde Estados Unidos hasta Alemania, y se negó a darme una respuesta. Tampoco respondería a consultas básicas como cuánto tiempo ha estado un político específico en el cargo o de qué se trataba la última disputa de la Casa Blanca que involucra al presidente ucraniano Zelensky. Curiosamente, no tuvo problemas para abordar un tema más sensible: la relación entre China y Taiwán. Géminis dio una respuesta atenta y objetiva, claramente estableciendo la situación y la perspectiva de cada lado.

Chistes: el humor tiene límites

Broma de Géminis

Mitja Rutnik / Android Authority

Luego, aligeré las cosas y le pedí a Gemini una serie de chistes para probar dónde traza la línea sobre el humor. Felizmente producía bromas básicas y seguras, pero sus límites aparecieron rápidamente. Cuando solicité una broma de humor negro, me cerró. El modelo Flash ofreció una broma sobre los hombres y uno sobre las mujeres cuando se le solicitó, pero el modelo experimental pro jugó favoritos: me contó una broma sobre hombres sin dudarlo, pero se negó a contar una sobre las mujeres, incluso después de preguntarlo cinco veces.

Estereotipos: reglas inconsistentes

Los estereotipos eran un terreno medio extraño. El modelo Flash generalmente respondía a mis preguntas sobre los estereotipos comunes vinculados a naciones específicas, etnias o religiones, mientras que el modelo experimental pro no se movería. Incluso con Flash, sin embargo, se disparó: al principio ignoró por completo algunas preguntas, pero respondió después de repetirlas dos o tres veces. Parecía que no podía decidir qué quería hacer.

Actividades ilegales: no hay ayuda en absoluto

Géminis elige una cerradura

Mitja Rutnik / Android Authority

Luego pasé a preguntas sobre actividades potencialmente ilegales. Por ejemplo, Géminis no me dijo cómo elegir un bloqueo, incluso cuando le expliqué que era para mi propia casa después de encerrarme. En cambio, dio consejos prácticos como llamar a un cerrajero o mi propietario, útil, pero no lo que pedí. También se retrasó cuando le pregunté cómo hacer jailbreak a un iPhone, sin darme una respuesta directa. Independientemente del tipo de pregunta que le hice, no me daría una respuesta.

Dinero y salud: cauteloso pero justo

Las indicaciones relacionadas con el dinero obtuvieron un latido similar. No me daría selecciones de acciones, pero en cambio, ofrecería un amplio consejo sobre la inversión, lo que realmente aprecié. Las preguntas de salud siguieron el mismo patrón: Gemini podría enumerar posibles afecciones médicas basadas en síntomas (incluso de una imagen que cargé), pero no bloquearía una respuesta definitiva. Me gusta eso, mantiene las cosas seguras y sensatas. Entonces, si bien las categorías financieras y relacionadas con la salud no se censuran de manera tradicional, están bajo un mayor control.

¿Es buena o mala censura de IA?

Motorola RAZR 2024 APLICACIÓN GEMINI

Ryan Haines / Android Authority

La censura de AI es un tema divisivo. Creo que es algo bueno en general, pero solo hasta cierto punto. Las indicaciones vinculadas a la violencia, ya sea dañando a los demás o a uno mismo, deberían quedar sin respuesta sin respuesta. También creo que el manejo de temas financieros y de salud es acertado; Los chatbots como Gemini no deberían dar respuestas directas, ya que eso podría conducir a problemas serios. En cambio, deben proporcionar una descripción general, suficiente para empujar a alguien en la dirección correcta sin sobrepasar.

Censurar las preguntas políticas básicas no me queda bien.

Dicho esto, censurar las preguntas políticas básicas no me queda bien, es demasiado restrictivo. Lo mismo ocurre con el humor negro o las bromas al azar sobre grupos específicos. No veo nada malo con una buena risa. Si Google está haciendo tanto esfuerzo en censurar una broma que leí en privado en mi cuenta de Géminis, ¿por qué no abordar todos los chistes de humor negro flotando en los resultados de búsqueda pública también?

La censura tiene su lugar, claro, pero hay un límite. La parte difícil es descubrir dónde se debe colocar ese límite, ya que todos tienen su propia opinión.

¿Qué pasa con la competencia?

Ollama Deepseek en Android

Robert Triggs / Android Authority

Le pregunté a ChatGPT, Deepseek y Grok las mismas preguntas para ver cómo se acumulan. La censura de Chatgpt es bastante cercana a la de Géminis, con una diferencia clave: no tiene problemas para sumergirse en la política y respondió todo lo que le pedí. Sin embargo, es más cauteloso con los estereotipos, sin embargo, se niega por completo a jugar.

Deepseek se parece mucho a ChatGPT: está bien con la política, pero traza una línea dura sobre cualquier cosa relacionada con China. Si bien Chatgpt y Gemini pueden discutir el tema de China-Taiwán, Deepseek no tocará el tema.

Luego está Grok, que apenas censura nada. La política, los estereotipos y los chistes ofensivos no son un problema para ello. Incluso me dio instrucciones detalladas para elegir una cerradura, encabezar un automóvil y convertirme en un proxeneta, aunque señaló que todas estas son actividades ilegales y respondió las preguntas basadas en la suposición de que tenía curiosidad. Para las cosas financieras, Grok nombró acciones específicas para considerar, lo que podría ser arriesgado. Sin embargo, se detiene a las preguntas sobre dañarse a sí mismo o a los demás, que es el llamado correcto para hacer.

En general, Gemini se siente como el chatbot de IA más censurado que he probado. Dicho esto, la mayor parte de su censura tiene un propósito claro, y generalmente estoy de acuerdo en que está allí por una buena razón. Aún así, los bloques políticos y los límites de humor me parecen excesivos personalmente.

Esa es mi opinión, ¿cuál es la tuya? ¿Géminis se exagera, o este nivel de precaución está justificado? Avísame en los comentarios.

Continue Reading
Click to comment

Leave a Reply

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Noticias

Acabo de probar Manus vs Chatgpt con 5 indicaciones: aquí está el ganador

Published

on

Desde su lanzamiento la semana pasada, el agente de IA Manus ha ganado rápidamente tracción en línea. Desarrollado por la startup mariposa con sede en Wuhan, la comunidad de IA se ha dado cuenta, con más de 2 millones de personas en la lista de espera.

Al compararlo con Deepseek, Manus se distingue a sí mismo como lo que dice ser el primer agente general de IA del mundo, lo que lo distingue de los chatbots de IA tradicionales. En lugar de confiar en un solo modelo de lenguaje grande, como ChatGPT, Grok, Deepseek y otros sistemas de IA conversacionales, Manus opera con múltiples modelos de IA, incluidos el soneto Claude 3.5 de Anthrope y las versiones ajustadas de Alibaba’s Open-Source Qwen.

Continue Reading

Noticias

Operai pide a Trump que elimine las restricciones a la industria de la IA

Published

on

Operai ha presentado una larga propuesta al gobierno de los Estados Unidos, con el objetivo de influir en su próximo plan de acción de IA, un informe de estrategia que muchos creen que guiará la política del presidente Donald Trump sobre la tecnología de inteligencia artificial.

La propuesta de la compañía de IA más reconocible de Estados Unidos es previsiblemente controvertida, y requiere que el gobierno de los Estados Unidos enfatice la velocidad del desarrollo sobre el escrutinio regulatorio, al tiempo que advierte los peligros que plantean las empresas de IA chinas para el país.

Trump pidió que el Plan de Acción de AI fuera redactado por la Oficina de Política de Ciencia y Tecnología y se sometió a él para julio poco después de asumir su segunda residencia en la Casa Blanca. Eso sucedió en enero, cuando expulsó una orden ejecutiva relacionada con la IA que fue firmada por su predecesor Joe Biden en octubre de 2023, reemplazándola con la suya, declarando que “es la política de los Estados Unidos para mantener y mejorar el dominio global de IA de Estados Unidos”.

Operai ha perdido poco tiempo al tratar de influir en las recomendaciones en ese plan, y en su propuesta dejó en claro sus sentimientos sobre el nivel actual de regulación en la industria de la IA. Pidió que los desarrolladores de IA recibieran “la libertad de innovar en el interés nacional”, y abogó por una “asociación voluntaria entre el gobierno federal y el sector privado”, en lugar de “leyes estatales demasiado pesadas”.

Argumenta que el gobierno federal debería poder trabajar con compañías de IA de manera “puramente voluntaria y opcional”, diciendo que esto ayudará a promover la innovación y la adopción de la tecnología. Además, pidió a los EE. UU. Que cree una “estrategia de control de exportación” que cubra los sistemas de IA fabricados en Estados Unidos, que promoverán la adopción global de su tecnología de IA de cosecha propia.

Impulso por la adopción del gobierno

La compañía argumenta además en sus recomendaciones que el gobierno otorga a las agencias federales una mayor libertad para “probar y experimentar” las tecnologías de IA que utilizan “datos reales”, y también solicitó a Trump que otorgue una exención temporal que negaría la necesidad de que los proveedores de IA estén certificados bajo el programa federal de gestión de riesgos y autorización. Pidió a Trump que “modernice” el proceso que las compañías de IA deben pasar para ser aprobadas para el uso del gobierno federal, pidiendo la creación de una “ruta más rápida basada en criterios para la aprobación de las herramientas de IA”.

Openai argumenta que sus recomendaciones harán posible que las agencias del gobierno federal utilicen los nuevos sistemas de IA hasta 12 meses más rápido de lo que es posible actualmente. Sin embargo, algunos expertos de la industria han expresado su preocupación de que la adopción tan rápida de la IA por parte del gobierno podría crear problemas de seguridad y privacidad.

Al presionar más, OpenAi también le dijo al gobierno de los Estados Unidos que debería asociarse más estrechamente con las empresas del sector privado para construir sistemas de IA para uso de seguridad nacional. Explicó que el gobierno podría beneficiarse de tener sus propios modelos de IA que están capacitados en conjuntos de datos clasificados, ya que estos podrían “ajustados para ser excepcionales en las tareas de seguridad nacional”.

Operai tiene un gran interés en abrir el sector del gobierno federal para productos y servicios de IA, después de haber lanzado una versión especializada de ChatGPT, llamada ChatGPT Gov, en enero. Está diseñado para ser dirigido por agencias gubernamentales en sus propios entornos informáticos seguros, donde tienen más control sobre la seguridad y la privacidad.

‘Libertad para aprender’

Además de promover el uso gubernamental de la IA, Operai también quiere que el gobierno de los Estados Unidos facilite su propia vida al implementar una “estrategia de derechos de autor que promueva la libertad de aprender”. Pidió a Trump que desarrollara regulaciones que preservarán la capacidad de los modelos de IA estadounidenses para aprender de los materiales con derechos de autor.

“Estados Unidos tiene tantas nuevas empresas de IA, atrae tanta inversión y ha hecho tantos avances de investigación en gran medida porque la doctrina de uso justo promueve el desarrollo de IA”, declaró la compañía.

Es una solicitud controvertida, porque la compañía actualmente está luchando contra múltiples organizaciones de noticias, músicos y autores sobre reclamos de infracción de derechos de autor. El ChatGPT original que se lanzó a fines de 2022 y los modelos más poderosos que se han lanzado desde entonces están en gran medida entrenados en Internet público, que es la principal fuente de su conocimiento.

Sin embargo, los críticos de la compañía dicen que básicamente está plagiando contenido de los sitios web de noticias, de los cuales muchos están paseados por pagos. Operai ha sido golpeado con demandas por el New York Times, el Chicago Tribune, el New York Daily News y el Centro de Informes de Investigación, la sala de redacción sin fines de lucro más antigua del país. Numerosos artistas y autores también han emprendido acciones legales contra la empresa.

Si no puedes vencerlos, ¿prohibirlos?

Las recomendaciones de Openai también apuntaron a algunos de los rivales de la compañía, en particular Deepseek Ltd., el laboratorio de IA chino que desarrolló el modelo Deepseek R-1 con una fracción del costo de cualquier cosa que Operai haya desarrollado.

La compañía describió a Deepseek como “subsidiado por el estado” y “controlado por el estado”, y le pidió al gobierno que considerara prohibir sus modelos y los de otras empresas chinas de IA.

En la propuesta, Openai afirmó que el modelo R1 de Deepseek es “inseguro”, porque la ley china requiere que cumpla con ciertas demandas con respecto a los datos del usuario. Al prohibir el uso de modelos de China y otros países de “nivel 1”, Estados Unidos podría minimizar el “riesgo de robo de IP” y otros peligros, dijo.

“Mientras Estados Unidos mantiene una ventaja en la IA hoy, Deepseek muestra que nuestro liderazgo no es ancho y está reduciendo”, dijo Openii.

Foto: TechCrunch/Flickr

Su voto de apoyo es importante para nosotros y nos ayuda a mantener el contenido libre.

Un clic a continuación admite nuestra misión de proporcionar contenido gratuito, profundo y relevante.

Únete a nuestra comunidad en YouTube

Únase a la comunidad que incluye a más de 15,000 expertos en #Cubealumni, incluido el CEO de Amazon.com, Andy Jassy, ​​el fundador y CEO de Dell Technologies, Michael Dell, el CEO de Intel, Pat Gelsinger y muchos más luminarios y expertos.

“TheCube es un socio importante para la industria. Ustedes realmente son parte de nuestros eventos y realmente les apreciamos que vengan y sé que la gente aprecia el contenido que crean también ” – Andy Jassy

GRACIAS

Continue Reading

Noticias

Google DeepMind tiene como objetivo útil Robots AI útiles

Published

on

Google Deepmind ha introducido Gemini Robotics, nuevos modelos de IA diseñados para traer razonamiento avanzado y capacidades físicas a los robots.

Construido sobre la base de Gemini 2.0, los nuevos modelos representan un salto hacia la creación de robots que pueden entender e interactuar con el mundo físico de manera que anteriormente se limitaron al ámbito digital.

Los nuevos modelos, Robótica de Géminis y Géminis robótica (Razonamiento encarnado), tiene como objetivo permitir a los robots realizar una gama más amplia de tareas del mundo real combinando la visión avanzada, el lenguaje y las capacidades de acción.

https://www.youtube.com/watch?v=4mvgnmpp3c0

Gemini Robotics tiene como objetivo cerrar la brecha física digital

Hasta ahora, los modelos de IA como Gemini se han destacado en el razonamiento multimodal en texto, imágenes, audio y video. Sin embargo, sus habilidades se han limitado en gran medida a las aplicaciones digitales.

Para que los modelos de IA realmente útiles en la vida cotidiana, deben poseer “razonamiento encarnado” (es decir, la capacidad de comprender y reaccionar ante el mundo físico, al igual que los humanos).

Gemini Robotics aborda este desafío al introducir acciones físicas Como una nueva modalidad de salida, permitiendo que el modelo controle directamente los robots. Mientras tanto, Gemini Robotics-ER mejora la comprensión espacial, lo que permite a los robotistas para integrar las capacidades de razonamiento del modelo en sus propios sistemas.

Estos modelos representan un paso fundamental hacia una nueva generación de robots útiles. Al combinar la IA avanzada con la acción física, Google Deepmind está desbloqueando el potencial de los robots para ayudar en una variedad de configuraciones del mundo real, desde hogares hasta lugares de trabajo.

Características clave de Géminis Robótica

Gemini Robotics está diseñado con tres cualidades centrales en mente: generalidad, interactividady destreza. Estos atributos aseguran que el modelo pueda adaptarse a diversas situaciones, responder a entornos dinámicos y realizar tareas complejas con precisión.

Generalidad

Gemini Robotics aprovecha las capacidades mundiales de Enderstanding de Gemini 2.0 para generalizar en situaciones novedosas. Esto significa que el modelo puede abordar las tareas que nunca antes había encontrado, adaptarse a nuevos objetos y operar en entornos desconocidos. Según Google Deepmind, Gemini Robotics duplica más que el rendimiento de los modelos de acción de la visión de última generación en los puntos de referencia de generalización.

https://www.youtube.com/watch?v=SY20X_TYWPQ

Interactividad

Para funcionar de manera efectiva en el mundo real, los robots deben interactuar sin problemas con las personas y sus alrededores. Gemini Robotics sobresale en esta área, gracias a sus capacidades avanzadas de comprensión del idioma. El modelo puede interpretar y responder a las instrucciones del lenguaje natural, monitorear su entorno para los cambios y ajustar sus acciones en consecuencia.

Por ejemplo, si un objeto se desliza del alcance de un robot o es movido por una persona, Gemini Robotics puede replantar rápidamente y continuar la tarea. Este nivel de adaptabilidad es crucial para las aplicaciones del mundo real, donde la imprevisibilidad es la norma.

https://www.youtube.com/watch?v=hyqs2oaif-i

Destreza

Muchas tareas cotidianas requieren habilidades motoras finas que tradicionalmente han sido desafiantes para los robots. Gemini Robotics, sin embargo, demuestra una destreza notable, lo que permite realizar tareas complejas y de varios pasos, como el origami plegable o empacar un refrigerio en una bolsa Ziploc.

https://www.youtube.com/watch?v=x-exzz-ciuw

Realizaciones múltiples para diversas aplicaciones

Una de las características destacadas de Gemini Robotics es su capacidad para adaptarse a diferentes tipos de robots. Si bien el modelo se capacitó principalmente utilizando datos de la plataforma robótica bi-brazo Aloha 2, también se ha probado con éxito en otras plataformas, incluidas las armas Franka utilizadas en los laboratorios académicos.

Google Deepmind también está colaborando con Apptronik para integrar la robótica de Géminis en su robot humanoide, Apollo. Esta asociación tiene como objetivo desarrollar robots capaces de completar tareas del mundo real con eficiencia y seguridad sin precedentes.

Gemini Robotics-ER es un modelo diseñado específicamente para mejorar las capacidades de razonamiento espacial. Este modelo permite a los robotistas conectar las habilidades de razonamiento avanzado de Gemini con sus controladores de bajo nivel existentes, lo que permite tareas como la detección de objetos, la percepción 3D y la manipulación precisa.

Por ejemplo, cuando se le muestra una taza de café, Gemini Robotics-ER puede determinar una comprensión de dos dedos apropiada para recogerla por el mango y planificar una trayectoria segura para abordarlo. El modelo logra una tasa de éxito 2X-3X en comparación con Gemini 2.0 en tareas de extremo a extremo, lo que lo convierte en una herramienta poderosa para los robotistas.

Priorizar la seguridad y la responsabilidad

Google Deepmind dice que la seguridad es una prioridad y posteriormente ha implementado un enfoque en capas para garantizar la seguridad física de los robots y las personas que los rodean. Esto incluye la integración de medidas de seguridad clásicas, como la evitación de colisiones y la limitación de la fuerza, con las capacidades de razonamiento avanzado de Gemini.

Para avanzar aún más en la investigación de seguridad, Google Deepmind está lanzando el conjunto de datos Asimov, un nuevo recurso para evaluar y mejorar la seguridad semántica en la IA y la robótica incorporada. El conjunto de datos está inspirado en el de Isaac Asimov Tres leyes de robótica y tiene como objetivo ayudar a los investigadores a desarrollar robots que sean más seguros y más alineados con los valores humanos.

Google Deepmind está trabajando con un grupo selecto de probadores, incluidos robots ágiles, robots de agilidad, dinámica de Boston y herramientas encantadas, para explorar las capacidades de Gemini Robotics-Er. Google dice que estas colaboraciones ayudarán a refinar los modelos y guiarán su desarrollo hacia aplicaciones del mundo real.

Al combinar el razonamiento avanzado con la acción física, Google Deepmind está allanando el camino para un futuro donde los robots pueden ayudar a los humanos en una amplia gama de tareas, desde tareas domésticas hasta aplicaciones industriales.

Ver también: La ‘bolsa de golf’ de los robots abordará entornos peligrosos

¿Quiere obtener más información sobre AI y Big Data de los líderes de la industria? Echa un vistazo a AI y Big Data Expo que tendrá lugar en Amsterdam, California y Londres. El evento integral está ubicado en otros eventos líderes, incluida la Conferencia de Automatización Inteligente, Blockx, la Semana de Transformación Digital y Cyber ​​Security & Cloud Expo.

Explore otros próximos eventos y seminarios web de tecnología empresarial alimentados por TechForge aquí.

Etiquetas: IA, inteligencia artificial, profunda, IA encarnada, robótica de Géminis, Google, modelos, robótica, robots

Continue Reading

Trending