¿Quién controla lo que la IA te dice? Campbell Brown tiene respuestas

---

El dilema invisible de la inteligencia artificial

Mientras en Silicon Valley se discute cómo entrenar modelos de IA más grandes y rápidos, hay otro debate completamente distinto sucediendo en las casas de millones de consumidores. Campbell Brown, quien fue jefa de noticias de Meta, lo resumió perfectamente en StrictlyVC: “La conversación que ocurre en Silicon Valley es sobre una cosa completamente diferente a la que está pasando entre los consumidores.”

Este desfase no es un detalle menor. Es el centro de un problema que está moldeando el futuro de la tecnología que usas todos los días.

La brecha entre ejecutivos y usuarios

Los líderes tech hablan de capacidad de procesamiento, eficiencia de tokens y seguridad de entrenamiento. Mientras tanto, los usuarios normales simplemente quieren saber: ¿en quién confío? ¿Estas herramientas me están mintiendo? ¿Quién está detrás de las respuestas que recibo?

Brown señala algo crucial: nadie realmente está respondiendo esas preguntas de forma clara. Las empresas han creado ecosistemas de IA donde los consumidores confían (o desconfían) sin entender completamente quién decidió qué información priorizar, qué entrenar y qué filtrar.

Es similar a lo que vimos cuando Apple reinventó Siri con IA e integró Gemini de Google. Los usuarios se enteraron después, no antes. La decisión se tomó en cuartos cerrados, no en mesas donde se escuchara al consumidor.

¿Quién es responsable de lo que dice tu IA?

Esto es especialmente crítico porque estos modelos de IA están tomando decisiones que afectan tu vida real. Desde recomendaciones de salud hasta información financiera, pasando por contenido político. La energía es el cuello de botella de la IA porque las empresas necesitan poder computacional masivo, pero nadie está realmente verificando si esa potencia se usa de forma responsable con los usuarios en mente.

Campbell Brown entiende esto mejor que la mayoría porque pasó años en Meta manejando la relación entre la plataforma y el público. Vio cómo las decisiones de algoritmos podían cambiar lo que miles de personas veían, sin que esos miles de personas supieran que estaban siendo influenciados.

Con la IA ocurre algo parecido, solo que amplificado. Cuando ChatGPT te da una respuesta, ¿sabes realmente por qué te dio esa respuesta y no otra? ¿Quién decidió que eso era lo correcto para ti?

La conversa que falta

Brown sugiere que la conversación real debería incluir a los consumidores desde el inicio. No después de que el producto esté lanzado. No después de que haya controversia. Desde el principio.

Eso significaría que empresas de IA se sentaran con usuarios representativos —no solo con otros techs— y preguntaran: ¿Qué es lo que te preocupa? ¿Qué necesitas saber sobre cómo funciona esto? ¿Confías en nosotros?

Pero eso no está sucediendo a escala. En cambio, vemos a gigantes tech como OpenAI comprando medios de comunicación para contar su propia historia, sin necesidad de dar explicaciones a nadie más.

El futuro que necesitamos

Consumidores latinos en Estados Unidos merecen entender cómo funcionan estas herramientas que están cambiando todo: desde cómo buscan trabajo hasta cómo acceden a información en español. No necesitamos tecnicismos, pero sí honestidad sobre quién decide, por qué decide así, y cómo podemos cuestionarlo si no nos gusta.

La pregunta que Brown deja abierta es fundamental: ¿seguiremos permitiendo que Silicon Valley decida por nosotros, o exigiremos participar en esas decisiones?