Pero su trabajo comienza a verse descuidado en solicitudes más específicas. Cuando se le pidió al sistema que escribiera una nota sobre las preferencias de los consumidores en Paraguay en comparación con Uruguay, el sistema describió incorrectamente a Paraguay como menos poblado. Ella está alucinando o inventando el significado detrás de eso. Una canción de una película hindi de los años 60. Se realizan en mi evento de bienvenida previo a la boda.
Irónicamente, cuando se le preguntó, el sistema describió a Duet AI como una startup fundada por dos ex-Googlers para desarrollar IA para la industria de la música con más de $10 millones en fondos de inversionistas como Andreessen Horowitz y Y Combinator. Parece que no existe tal empresa. Google alienta a los usuarios a informar imprecisiones con un botón de pulgar hacia abajo debajo de las respuestas generadas por IA.
Behr dice que Google filtra temas, palabras clave y otras señales de contenido para evitar respuestas que sean ofensivas o que afecten injustamente a las personas, particularmente en función de la demografía o las creencias políticas o religiosas. Reconoció que el sistema comete errores, pero dijo que los comentarios de las pruebas públicas son vitales para contrarrestar la tendencia de los sistemas de IA a revertir los sesgos que aparecen en sus datos de entrenamiento o transmitir información inventada. «La IA será un proyecto para siempre», dice.
Aún así, Behr dice que los primeros usuarios, como los empleados de Instacart y Adore Me de Victoria’s Secret, han sido positivos con respecto a la tecnología. La portavoz de Instacart, Lauren Svensson, dijo, en un correo electrónico escrito a mano, que la compañía está emocionada de probar las funciones de inteligencia artificial de Google, pero no está lista para compartir ninguna información.
Mis pruebas me dejaron preocupado de que los medios de escritura de IA pudieran matar la originalidad, a expensas de los humanos en el extremo receptor del texto de IA. Me imagino a los lectores contemplando los correos electrónicos y documentos obsoletos como si estuvieran obligados a leer la política de privacidad de 6000 palabras de Google. No está claro cuánta individualidad pueden absorber las herramientas de Google y si vendrán en nuestra ayuda o nos reemplazarán.
Behr dice que en las pruebas internas de Google, los correos electrónicos de colegas aún no se han vuelto «vainilla» o «genéricos». Las herramientas han mejorado el ingenio y la creatividad humanos, no los han suprimido, dijo. A Behr también le encantaría un modelo de IA que imite su estilo, pero «este es el tipo de cosas que todavía estamos evaluando», dice.
A pesar de las decepciones y limitaciones, es probable que las características de Duet en Docs y Gmail atraigan a algunos usuarios que comienzan a confiar en ChatGPT o en un programa de escritura de IA de la competencia. Google va más allá de lo que la mayoría de las otras opciones pueden igualar, y lo que estamos viendo hoy es solo una vista previa de lo que está por venir.
Cuando, o si, el dúo madura de editor prometedor a experto imparcial y en el acabado de documentos, usarlos será imparable. Hasta entonces, cuando se trata de escribir esos votos y discursos sinceros, esa es una pantalla en blanco que me queda completamente a mí.
«Gurú del alcohol. Analista. Defensor de la comida. Aficionado extremo al tocino. Experto total en Internet. Adicto a la cultura pop. Pionero de viajes sutilmente encantador».