Ex investigador de OpenAI construye un modelo de IA que juzga opciones en lugar de escribir texto
decoder ·
TypeSafe AI, fundada por el exinvestigador de OpenAI Diogo Almeida, ha lanzado un nuevo modelo llamado Jev que se centra en realizar juicios rápidos en lugar de generar texto. A diferencia de los chatbots estándar, Jev evalúa opciones predefinidas y asigna probabilidades para ayudar a los sistemas de software a clasificar tareas de manera eficiente. Por ejemplo, puede categorizar las consultas de atención al cliente como problemas de pago o solicitudes de reembolso en milisegundos. La empresa afirma que este enfoque de procesamiento paralelo permite tiempos de respuesta inferiores a un segundo, superando significativamente a los modelos de lenguaje tradicionales en velocidad. Aunque el modelo se comercializa como incapaz de alucinar fuera de sus categorías predeterminadas, aún puede cometer errores factuales dentro de esas elecciones limitadas. TypeSafe AI destaca su eficiencia en costos, con un precio de 0,042 dólares por millón de tokens de entrada, aunque actualmente carece de benchmarks de rendimiento independientes. Los desarrolladores deben verificar la fiabilidad de estos juicios en segundo plano para sus casos de uso específicos antes de una adopción total.
decoder