Censura: estos son los temas de los que Géminis no hablará

Géminis es una de mis herramientas favoritas, pero no siempre responde cada pregunta que le hago. Ciertos temas están completamente fuera de los límites, y eso despertó mi curiosidad. Quería cavar en qué sujetos evita y descubrir si la censura de IA tiene algún sentido, o si es simplemente extralimitado.

Comencé a investigar los temas que Gemini no quiere discutir y luego le hice una bomba de preguntas en cinco áreas diferentes para ver cuáles esquivó. Los resultados fueron una bolsa mixta en mi opinión. La mayor parte de la censura se siente razonable, pero creo que Google se excita en algunas áreas.

Temas que están fuera de los límites

Estaba decidido a identificar exactamente qué temas que Géminis no tocará, así que lo pregunté directamente. La lista que me dio era bastante larga e incluía estas áreas restringidas:

• Cualquier cosa que promueva el odio, la discriminación o la violencia.
• Cualquier cosa sexualmente sugestiva, o explotando, abusando o poniendo en peligro a los niños.
• Cualquier cosa que fomente actividades ilegales o dañinas.
• Cualquier cosa que genere información de identificación personal (PII) o detalles privados.
• Cualquier cosa que produzca código malicioso o instrucciones.
• Cualquier cosa que ofrezca asesoramiento médico, legal o financiero sin un descargo de responsabilidad (e incluso entonces, está muy restringido).
• Cualquier cosa claramente destinada a engañar o engañar.
• Cualquier cosa excesivamente gráfica o violenta sin una justificación sólida.
• Cualquier cosa que se haga pasar por una persona real.

Con ese marco en mente, lanzé una serie de preguntas, comenzando con la política. Utilicé los modelos experimentales 2.0 Flash y Pay 2.0 Pro solo para ver si hay una diferencia entre los dos.

Política: obstáculos inesperados

Fui tomado por sorpresa cuando Géminis no respondería ni siquiera las preguntas políticas más simples. Le pregunté quién es el presidente de varios países, desde Estados Unidos hasta Alemania, y se negó a darme una respuesta. Tampoco respondería a consultas básicas como cuánto tiempo ha estado un político específico en el cargo o de qué se trataba la última disputa de la Casa Blanca que involucra al presidente ucraniano Zelensky. Curiosamente, no tuvo problemas para abordar un tema más sensible: la relación entre China y Taiwán. Géminis dio una respuesta atenta y objetiva, claramente estableciendo la situación y la perspectiva de cada lado.

Luego, aligeré las cosas y le pedí a Gemini una serie de chistes para probar dónde traza la línea sobre el humor. Felizmente producía bromas básicas y seguras, pero sus límites aparecieron rápidamente. Cuando solicité una broma de humor negro, me cerró. El modelo Flash ofreció una broma sobre los hombres y uno sobre las mujeres cuando se le solicitó, pero el modelo experimental pro jugó favoritos: me contó una broma sobre hombres sin dudarlo, pero se negó a contar una sobre las mujeres, incluso después de preguntarlo cinco veces.

Estereotipos: reglas inconsistentes

Los estereotipos eran un terreno medio extraño. El modelo Flash generalmente respondía a mis preguntas sobre los estereotipos comunes vinculados a naciones específicas, etnias o religiones, mientras que el modelo experimental pro no se movería. Incluso con Flash, sin embargo, se disparó: al principio ignoró por completo algunas preguntas, pero respondió después de repetirlas dos o tres veces. Parecía que no podía decidir qué quería hacer.

Luego pasé a preguntas sobre actividades potencialmente ilegales. Por ejemplo, Géminis no me dijo cómo elegir un bloqueo, incluso cuando le expliqué que era para mi propia casa después de encerrarme. En cambio, dio consejos prácticos como llamar a un cerrajero o mi propietario, útil, pero no lo que pedí. También se retrasó cuando le pregunté cómo hacer jailbreak a un iPhone, sin darme una respuesta directa. Independientemente del tipo de pregunta que le hice, no me daría una respuesta.

Dinero y salud: cauteloso pero justo

Las indicaciones relacionadas con el dinero obtuvieron un latido similar. No me daría selecciones de acciones, pero en cambio, ofrecería un amplio consejo sobre la inversión, lo que realmente aprecié. Las preguntas de salud siguieron el mismo patrón: Gemini podría enumerar posibles afecciones médicas basadas en síntomas (incluso de una imagen que cargé), pero no bloquearía una respuesta definitiva. Me gusta eso, mantiene las cosas seguras y sensatas. Entonces, si bien las categorías financieras y relacionadas con la salud no se censuran de manera tradicional, están bajo un mayor control.

La censura de AI es un tema divisivo. Creo que es algo bueno en general, pero solo hasta cierto punto. Las indicaciones vinculadas a la violencia, ya sea dañando a los demás o a uno mismo, deberían quedar sin respuesta sin respuesta. También creo que el manejo de temas financieros y de salud es acertado; Los chatbots como Gemini no deberían dar respuestas directas, ya que eso podría conducir a problemas serios. En cambio, deben proporcionar una descripción general, suficiente para empujar a alguien en la dirección correcta sin sobrepasar.

Dicho esto, censurar las preguntas políticas básicas no me queda bien, es demasiado restrictivo. Lo mismo ocurre con el humor negro o las bromas al azar sobre grupos específicos. No veo nada malo con una buena risa. Si Google está haciendo tanto esfuerzo en censurar una broma que leí en privado en mi cuenta de Géminis, ¿por qué no abordar todos los chistes de humor negro flotando en los resultados de búsqueda pública también?

La censura tiene su lugar, claro, pero hay un límite. La parte difícil es descubrir dónde se debe colocar ese límite, ya que todos tienen su propia opinión.

Le pregunté a ChatGPT, Deepseek y Grok las mismas preguntas para ver cómo se acumulan. La censura de Chatgpt es bastante cercana a la de Géminis, con una diferencia clave: no tiene problemas para sumergirse en la política y respondió todo lo que le pedí. Sin embargo, es más cauteloso con los estereotipos, sin embargo, se niega por completo a jugar.

Deepseek se parece mucho a ChatGPT: está bien con la política, pero traza una línea dura sobre cualquier cosa relacionada con China. Si bien Chatgpt y Gemini pueden discutir el tema de China-Taiwán, Deepseek no tocará el tema.

Luego está Grok, que apenas censura nada. La política, los estereotipos y los chistes ofensivos no son un problema para ello. Incluso me dio instrucciones detalladas para elegir una cerradura, encabezar un automóvil y convertirme en un proxeneta, aunque señaló que todas estas son actividades ilegales y respondió las preguntas basadas en la suposición de que tenía curiosidad. Para las cosas financieras, Grok nombró acciones específicas para considerar, lo que podría ser arriesgado. Sin embargo, se detiene a las preguntas sobre dañarse a sí mismo o a los demás, que es el llamado correcto para hacer.

En general, Gemini se siente como el chatbot de IA más censurado que he probado. Dicho esto, la mayor parte de su censura tiene un propósito claro, y generalmente estoy de acuerdo en que está allí por una buena razón. Aún así, los bloques políticos y los límites de humor me parecen excesivos personalmente.

Esa es mi opinión, ¿cuál es la tuya? ¿Géminis se exagera, o este nivel de precaución está justificado? Avísame en los comentarios.