Las empresas frustradas con este tipo de IA son algo malo

«Esto es genial, pero en realidad no puedo hacer que funcione de manera lo suficientemente confiable como para ofrecérselo a nuestros clientes».

Verificación de la realidad

A estas alturas, parece claro que gran parte del revuelo en torno a la IA generativa es exagerado –si no una burbuja a punto de estallar– y algunas empresas que han invertido en la tecnología lo están aprendiendo por las malas.

Es difícil pasar por alto las deficiencias de la tecnología. Los grandes modelos de lenguaje como ChatGPT son vulnerables a alucinaciones y a la difusión de información errónea. Tanto los chatbots como los creadores de imágenes con IA han sido acusados ​​de estafar a escritores y artistas. En general, los dispositivos utilizados por la inteligencia artificial requieren enormes cantidades de energía, lo que provoca la destrucción del medio ambiente.

Quizás lo más importante de todo es que, según Gary Marcus, científico cognitivo y destacado investigador de IA, las empresas están descubriendo que no se puede confiar en la tecnología.

«Parece que casi todo el mundo regresa con un informe que dice: 'Esto es genial, pero en realidad no puedo hacer que funcione lo suficientemente confiable como para entregárselo a nuestros clientes'», Marcus Decir axios.

Servicio al cliente

Esto no es difícil de creer. Una empresa británica se vio obligada a desactivar su chatbot después de que comenzó a insultar a los clientes y a hablar de manera inapropiada con sus empleadores. Un concesionario de automóviles de California tuvo que hacer lo mismo después de que un vendedor de automóviles con tecnología ChatGPT comenzó a ofrecer automóviles a 1 dólar a los compradores.

Aún más deprimente, una aerolínea tuvo que pagar daños y perjuicios después de que su chatbot le mintiera a un cliente afligido, diciéndole que si compraban un boleto a precio completo para el funeral de su abuela, se les garantizaría un descuento por duelo más adelante.

“Nadie quiere construir un producto sobre un modelo que fabrica cosas”, dijo Roman Chowdhury, director ejecutivo de la consultora de inteligencia artificial Humane Intelligence. axios. «El problema fundamental es que los modelos GenAI no son sistemas de recuperación de información», añadió. «Utilizan sistemas de crowdsourcing, sin la capacidad de diferenciarlos de los datos con los que están capacitados, a menos que se establezcan barreras de seguridad importantes».

problema de burbujas

Por estas razones y muchas más, algunos expertos han advertido que la inteligencia artificial es una burbuja, al igual que las criptomonedas o las startups puntocom. Expectativas de que la inteligencia artificial se convierta en Una industria que vale más de un billón de dólares La próxima década ciertamente parece recordarnos la arrogancia que siempre acompaña a esos auges antes de las caídas.

Mientras tanto, desde un punto de vista técnico, algunos dudan de que la tecnología avance lo suficientemente rápido como para mantenerse al día con las expectativas, e incluso puede pasar por un largo período de estancamiento. Los inversores que han invertido miles de millones de dólares en la industria en un período muy corto de tiempo, esperando un cambio lucrativo, tal vez no tengan la paciencia para resistir.

“Es fácil decir: 'Solo faltan unos meses'”, dijo Marcus. axios. «No creo que estemos en esta situación particular. No porque no crea que la IA sea imposible o que la AGI sea imposible, sino simplemente porque [this] «Cierta tecnología tiene muchos problemas».

Más sobre inteligencia artificial: VC critica a Sam Altman, llamándolo «megalómano»