Cómo usar modelos en inferencia

Algunos modelos son demasiado grandes para ser descargados e inferidos de forma local en la mayoría de sistemas. Por este motivo, proporcionamos una API para consumir modelos del kit Alia alojados en servidores.

El acceso a dicha API requiere una autenticación mediante una API Key, la cual será proporcionada por la Universidad de Alicante.

Una API, o Interfaz de Programación de Aplicaciones, es un conjunto de reglas y protocolos que permite a diferentes programas de software comunicarse entre sí. En este caso la API proporciona comunicación entre el sistema del usuario y el modelo alojado en un servidor.

La llamada a la API se realiza mediante una solicitud POST a la siguiente URL: https://salamandra.tools.gplsi.es/complete

El cuerpo de la solicitud debe enviarse en formato JSON con la siguiente estructura:

{ 
    "text": "Texto a completar", 
    "model": "nombre-del-modelo"
}

Donde "nombre-del-modelo" debe ser sustituido por el nombre correspondiente.

Se facilita una demo para los usuarios que no estén familiarizados con el funcionamiento de las API.

6KB

Demostración_API.ipynb