Este artículo es el último relativo a la investigación llevada a cabo sobre implementación de servicios de Inteligencia Artificial en el ámbito médico y sanitario.
En concreto hablaremos sobre los pasos necesarios para implementar y trabajar sobre la plataforma Azure OpenAI. Entre las distintas soluciones estudiadas, en el momento de escritura de este artículo, la de Microsoft presenta la menor cantidad de aspectos limitantes, además de presentar la mejor política de privacidad de datos.
Debido a esto, se ha decidido llevar a cabo una implementación utilizando esta solución para comprobar su rendimiento real y capacidad de soportar varias consultas concurrentes.
Actualmente, el servicio está limitado debido a la alta demanda y al compromiso de Microsoft con una IA responsable. En el momento de escritura de este artículo, Microsoft está trabajando con clientes ya asociados y que presenten casos de uso de menor riesgo.
Para poder acceder al servicio es necesario rellenar este formulario de solicitud. Tras rellenarlo, Microsoft concederá o no acceso a la plataforma.
Si la respuesta es positiva, simplemente deberemos crear un recurso de Azure OpenAI dentro de la plataforma. Para ello, tras acceder al servicio, deberemos indicar la suscripción, el grupo de recursos, la región en la que se implementará, el nombre del servicio y por último el plan de tarifa.
También deberemos elegir y desplegar, al menos, un modelo. Para llevarlo a cabo deberemos acceder al recurso de Azure OpenAI que hemos generado con anterioridad y seleccionar 'Implementaciones'. En este apartado deberemos rellenar los campos indicados, eligiendo el modelo y el nombre que le vamos a asignar. Destacar la importancia de este nombre, ya que será necesario en el posterior desarrollo.
En la actualidad para utilizar los distintos modelos podremos emplear C#, Java, JavaScript, Python o REST. Deberemos cumplir una serie de prerrequisitos independiente del lenguaje que usemos: debemos tener a nuestra disposición una suscripción de Azure, tener acceso al servicio Azure OpenAI y tener un recurso con un modelo (en este caso gpt-35-turbo). Si Microsoft nos ha concedido acceso al servicio, cumpliremos estos requisitos.
En el caso de algunos lenguajes de programación deberemos disponer de ciertas versiones para poder hacer funcionar el servicio. En el caso de C#, por ejemplo, la SDK de .NET 7 es necesaria. Como paso siguiente deberemos, por lo general, obtener e instalar la biblioteca cliente de OpenAI para nuestro lenguaje.
Una vez instalada, deberemos recuperar la clave (API-KEY) y el punto de conexión al servicio (ENDPOINT) desde la plataforma de Azure.
A continuación, deberemos desarrollar el código necesario para realizar las consultas, esto variará drásticamente entre lenguajes, es por ello que es recomendable seguir los ejemplos disponibles en la documentación.
Si empleamos este código es necesario llevar a cabo una serie de cambios, entre los parámetros que debemos cambiar son el nombre de la implementación del modelo, el punto de conexión y la clave. Una vez modificados estos valores podemos efectuar las consultas que precisemos.
En las pruebas de rendimiento se han obtenido respuestas en un corto periodo de tiempo, dependiendo de la longitud de la respuesta, el valor oscila entre 2 y 5 segundos. Un rendimiento muy superior al obtenido en las implementaciones locales. También presenta la capacidad de soportar múltiples clientes simultáneos.
Como hemos podido observar, Azure OpenAI ofrece una gran cantidad de ventajas a la hora de implementar un servicio de Inteligencia Artificial en nuestras aplicaciones. El único problema actual es el tratamiento de los datos, que como vimos en otro artículo, podemos pedir excepción al control sobre ellos.
La solución de Microsoft presenta, en este momento, el mejor servicio si requerimos que el sistema sea capaz de responder a múltiples consultas simultáneas en un tiempo reducido.
Made with in Spain
© 2013 - 2024 Xoborg Technologies S.L. Todos los derechos reservados. Paseo Canalejas, 57-61 entre planta, oficina Num5, Salamanca 37001, Castilla y León, España.
