Iván Linares
Editor SeniorTras la llegada de la IA de WhatsApp a Europa, esta se convirtió en un contacto más: Meta AI. Habla correctamente en castellano y otros idiomas de la Unión Europea, pero se le atragantan las lenguas cooficiales, como el catalán. Meta AI está preparada para hablar en estas lenguas, pero censura automáticamente sus respuestas.
El problema. Dado que Meta AI es una ayuda conversacional que puede resolver desde dudas a crear textos, que este asistente hable en el idioma del usuario resulta imprescindible. Por eso es extraño que, pese a tener el móvil configurado en catalán, con la aplicación en ese mismo idioma, Meta AI se empeñe en decir que no lo habla.
Este mensaje automatizado salta en cualquier intento de conversación con Meta AI. De tener el móvil en catalán, el mensaje será en ese idioma, lo mismo si está configurado el castellano o el inglés. Además, esta autocensura también se da con otras lenguas cooficiales de España. Y se repite con varias lenguas minoritarias del resto de Europa. Lo hemos comprobado con el sami de Finlandia o el bretón de Francia.
Meta AI responde en el idioma, pero borra el mensaje. No es que Meta AI solo hable en castellano o en inglés, el verdadero problema es que está programada con el resto de lenguas cooficiales y no puede utilizarlas. Ante cualquier mensaje la respuesta de Meta AI se ajusta a la lengua del usuario, pero instantáneamente borra el texto para mostrar el genérico.
Meta AI responde correctamente, pero borra el mensaje
Meta AI tardó en llegar a Europa debido a que tuvo que cumplir con la ley de inteligencia artificial, pero esto no guarda relación con la autocensura de las lenguas cooficiales. Lo más seguro es que Meta AI utilice un filtro extra de moderación para evitar que se muestren respuestas poco fiables y/o erróneas, como ocurrió recientemente en Instagram con un mensaje escrito en kannada, una de las lenguas cooficiales de India. Al traducir mal este mensaje, la IA de Meta provocó un conflicto internacional.
Meta AI no está suficientemente bien entrenada en lenguas menos representadas. Como modelo de lenguaje que después se aprovecha comercialmente, el entrenamiento de la IA cubre con mayor énfasis los idiomas más utilizados en el mundo, especialmente el inglés. Así resulta posible llegar al máximo número de usuarios con el menor coste.
Meta AI en WhatsApp y con un número de Estados Unidos
Que Meta AI censure no implica que carezca de entrenamiento en catalán, euskera, gallego y otros idiomas: simplemente, es más probable que genere errores si escribe en ellos. Por eso actúa el filtro secundario de moderación: borra el mensaje para minimizar los riesgos. El problema es que, de rebote, crea la sensación de que lo está censurando.
En Estados Unidos sí habla catalán. Hemos probado con una cuenta de WhatsApp en un número estadounidense y esta permite establecer una conversación completa en catalán y otros idiomas cooficiales. El filtro de moderación avisa en cada mensaje de que los textos pueden contener errores, pero no autocensura las respuestas.
Hemos contactado con WhatsApp y nos ha confirmado que Meta AI solo está disponible en 13 idiomas: árabe, inglés, francés, alemán, hindi, hindi en alfabeto romanizado, indonesio, italiano, portugués, español, tagalo, tailandés y vietnamita. Pese a que pueda entender y contestar en otros, la IA se circunscribe a los establecidos. Meta AI está trabajando en añadir más idiomas.
Imagen de portada | Midjourney editada
En Xataka Móvil | No me falta ni un solo sticker de los memes más conocidos en mi WhatsApp: así los busco y los añado gratis a mi biblioteca
Ver 7 comentarios