Vértigo3d | E+ | imágenes falsas
DAVOS, SUIZA – Blockchain podría usarse para evitar sesgos en los datos en los que se entrenan los modelos de inteligencia artificial, y ese podría ser un “caso de uso excelente” para la tecnología, dijeron ejecutivos a CNBC.
Una preocupación sobre los modelos de IA (del tipo que funcionan con aplicaciones como ChatGPT) es que los datos con los que se entrenan podrían contener sesgos o información engañosa. Esto significa que las respuestas que puede proporcionar un sistema de IA pueden contener esos sesgos y desinformación.
La tecnología Blockchain llegó al mercado en 2009 con el lanzamiento de la criptomoneda Bitcoin. En el contexto de Bitcoin, la tecnología es un libro público de transacciones que es inmutable y resistente a manipulaciones. Las empresas buscan utilizar estos principios en otras aplicaciones de blockchain, a la que a veces se hace referencia como tecnología de contabilidad distribuida.
En el caso de la inteligencia artificial, los datos de entrenamiento se pueden colocar en una cadena de bloques. Esto permitirá a los desarrolladores de sistemas de inteligencia artificial realizar un seguimiento de los datos con los que se entrenó el modelo.
Casper Labs, una empresa de blockchain centrada en los negocios, se asoció con IBM este mes para crear dicho sistema.
«El producto que estamos desarrollando, los conjuntos de datos en realidad se escanean y almacenan en la cadena de bloques para que tenga evidencia de cómo entrenar la IA», dijo a CNBC Medha Parleka, directora de tecnología y cofundadora de Casper Labs, durante una conferencia. panel de discusión. Discusión en el Foro Económico Mundial en Davos esta semana.
«Entonces, mientras estás usando la IA, si está aprendiendo y descubres que la IA comienza a alucinar, puedes deshacer la IA. Y luego puedes deshacer parte del aprendizaje y volver a la versión anterior de la IA. AI.»
Las alucinaciones se refieren en términos generales a cuando un sistema de inteligencia artificial proporciona información falsa.
Blockchain es una tecnología de la que se ha hablado durante muchos años, y una variedad de industrias, desde las finanzas hasta la atención médica, han estado buscando formas de utilizarla.
Sin embargo, Sheila Warren, directora ejecutiva del Crypto Innovation Council, dijo que un libro de entrenamiento de IA basado en blockchain podría ser el «caso de uso excelente» para la tecnología.
«De hecho, creo que la verificación de la IA y el tipo de controles y contrapesos… dentro del sistema de IA serán impulsados por la tecnología blockchain y respaldados por la tecnología blockchain», dijo Warren a CNBC durante la sesión.
«Pionero del café. Fanático de las redes sociales. Entusiasta de la televisión. Emprendedor amigable. Empollón zombi aficionado».