Cómo usar modelos en inferencia

Algunos modelos son demasiado grandes para ser descargados e inferidos de forma local en la mayoría de sistemas. Por este motivo, proporcionamos una API para consumir modelos del kit Alia alojados en servidores.

El acceso a dicha API requiere una autenticación mediante una API Key, la cual será proporcionada por la Universidad de Alicante.

Una API, o Interfaz de Programación de Aplicaciones, es un conjunto de reglas y protocolos que permite a diferentes programas de software comunicarse entre sí. En este caso la API proporciona comunicación entre el sistema del usuario y el modelo alojado en un servidor.

La llamada a la API depende del modelo que se vaya a utilizar. Cada modelo dispone de su propio endpoint de inferencia, que puede variar según la plataforma donde esté alojado. Algunos modelos de la familia ALIA se encuentran disponibles a través de Hugging Face, meintras que otros están alojados en Public AI.

Para más información sobre cómo utilizar los modelos, consulta la documentación completa.

163KB

Manual Modelos en inferencia a través de Hugging Face.pdf

PDF

Open

169KB

Manual Modelos en inferencia a través de Public AI.pdf

PDF

Open