21 mayo 2024

Microsoft apuesta por sistemas de IA más pequeños y accesibles

La empresa que ha invertido miles de millones en pioneros de la inteligencia artificial generativa como OpenAI sostiene que los sistemas gigantes no son necesariamente lo que todos necesitan.

En la vertiginosa carrera por desarrollar sistemas de IA generativa, el mantra de la industria tecnológica ha sido que más grande es mejor, sin importar el costo.

Ahora, las compañías tecnológicas están comenzando a adoptar tecnologías de IA más pequeñas que no son tan potentes, pero cuestan mucho menos. Y para muchos clientes, eso puede ser un buen intercambio.

El martes, Microsoft presentó tres modelos de IA más pequeños que son parte de una familia tecnológica que la empresa ha denominado Phi-3. La compañía afirmó que incluso el más pequeño de los tres modelos rinde casi tan bien como GPT-3.5, el sistema mucho más grande que sustentó el chatbot ChatGPT de OpenAI cuando sorprendió al mundo con su lanzamiento a fines de 2022.

El modelo Phi-3 más pequeño puede caber en un smartphone, por lo que se puede utilizar incluso si no está conectado a internet. Además, puede funcionar con los tipos de chips que alimentan las computadoras regulares, en lugar de los procesadores más caros fabricados por Nvidia.

Dado que los modelos más pequeños requieren menos procesamiento, los grandes proveedores tecnológicos pueden cobrar menos a los clientes por usarlos. Esperan que esto signifique que más clientes puedan aplicar IA en lugares donde los modelos más grandes y avanzados han sido demasiado caros para usar. Aunque Microsoft indicó que usar los nuevos modelos sería “sustancialmente más barato” que usar modelos más grandes como GPT-4, no ofreció detalles específicos.

Los sistemas más pequeños son menos potentes, lo que significa que pueden ser menos precisos o sonar más torpes. Pero Microsoft y otras compañías tecnológicas apuestan a que los clientes estarán dispuestos a renunciar a algo de rendimiento si eso significa que finalmente pueden permitirse la IA.

Los clientes imaginan muchas formas de usar la IA, pero con los sistemas más grandes “piensan, ‘Oh, pero sabes, pueden resultar bastante caros'”, dijo Eric Boyd, un ejecutivo de Microsoft. Los modelos más pequeños, casi por definición, son más baratos de implementar, dijo.

El Sr. Boyd señaló que algunos clientes, como médicos o preparadores de impuestos, podrían justificar los costos de los sistemas de IA más grandes y precisos porque su tiempo es muy valioso. Pero muchas tareas pueden no necesitar el mismo nivel de precisión. Por ejemplo, los anunciantes en línea creen que pueden orientar mejor los anuncios con IA, pero necesitan costos más bajos para poder utilizar los sistemas regularmente.

“Quiero que mi médico acierte,” dijo el Sr. Boyd. “En otras situaciones, donde estoy resumiendo reseñas de usuarios en línea, si hay un pequeño error, no es el fin del mundo.”