Saltar al contenido

Vender inferencia de IA: requisitos y costes

Puedes prepararte para vender inferencia de IA revisando los derechos del modelo, midiendo el equipo que ya tienes y calculando el coste completo de atender solicitudes. Empieza por estas comprobaciones antes de comprar hardware o depender de una demanda futura.

Por Gyblos · Revisado el

Qué necesitas antes de ofrecer inferencia

Empieza por el equipo que ya tienes. Elige un modelo que puedas servir respetando su licencia, mídelo en tu hardware concreto y decide qué tiempo y capacidad puedes ofrecer. Un modelo local funcionando es un punto de partida; no demuestra una integración con el mercado.

  • Revisa la licencia del modelo y, si conectas una API, sus condiciones de reventa.
  • Anota versión del modelo, cuantización, longitud de contexto y versión del motor.
  • Mide memoria, velocidad de respuesta y solicitudes simultáneas con tareas representativas sin datos sensibles.
  • Estima los costes de operación y elige horarios que puedas cumplir.
  • Documenta tratamiento de datos, recuperación ante fallos y dependencias de terceros.

Vender inferencia es distinto de alquilar una GPU

Al vender inferencia, tú operas el motor del modelo y entregas respuestas a solicitudes. El comprador elige una oferta de modelo en lugar de administrar tu máquina. Tú sigues siendo responsable de la disponibilidad, la licencia y la política de datos del servicio.

Gyblos está diseñado para conectar la URL de un motor, incluidos motores locales compatibles o una API bajo responsabilidad del vendedor. Que un modelo funcione en Ollama no demuestra que Gyblos admita esa combinación, el streaming o el uso de herramientas. La compatibilidad necesita una versión probada.

Mide tu modelo, además de tu GPU

La memoria necesaria depende del modelo, la cuantización, el contexto y las solicitudes simultáneas. Prueba la combinación que vas a ofrecer: el tamaño de descarga o una medición aislada de velocidad no representan todos sus requisitos de operación.

Registra hardware y versiones de software, tarea, tokens de entrada/salida, contexto, concurrencia y fecha de medición. Usa entradas sintéticas o públicas. No incluyas prompts, respuestas, claves ni datos de clientes en informes públicos.

Revisa conectividad y disponibilidad

Mide capacidad de subida, latencia y disponibilidad en las condiciones en las que prestarás el servicio. Una respuesta local rápida no mide la experiencia completa del comprador.

Los routers domésticos y CGNAT pueden complicar las conexiones directas. El diseño de Gyblos incluye conexión directa cuando sea posible y relays cuando hagan falta; no garantiza que toda conexión funcione. Cuenta los posibles costes de relay y ancho de banda. No publiques una URL de motor sin protección ni una clave de API para probar si hay demanda.

Cuenta todos los costes, también cuando no hay solicitudes

Compara ingresos y costes del mismo periodo. Si la electricidad o el equipo se pagan en otra moneda, usa una conversión explícita y fechada antes de compararlos con ingresos en USDC. La demanda puede ser cero mientras los costes continúan.

Lista de costes del vendedor
CosteQué registrar
Electricidad y refrigeraciónPotencia medida en kW × horas de operación × tarifa por kWh; incluye las horas sin solicitudes.
HardwareDepreciación o alquiler del periodo, más reparación y mantenimiento.
ConectividadAncho de banda, plan de internet y relays atribuibles al servicio.
Servicios externosConsumo de API, licencias y cobros por fallos o reintentos cuando correspondan.
Comisiones y operaciónCostes del protocolo y de red, tiempo de soporte e impuestos aplicables.

Un ejemplo de margen, no una previsión de ganancias

Supongamos un consumo de inferencia pagado de 10,00 USDC durante un periodo. Con la comisión P2P inicial del 3% incluida en ese importe, 0,30 USDC corresponden a Gyblos y quedan 9,70 USDC para el vendedor antes de otros costes. El presupuesto reservado por el comprador no es ingreso.

Solo como ejemplo, resta 2,40 USDC de electricidad y 1,30 USDC de otros costes operativos del mismo periodo: 9,70 − 2,40 − 1,30 = 6,00 USDC antes de depreciación, mantenimiento, soporte e impuestos. Esos costes restantes pueden eliminar el margen. Son importes inventados: no representan ofertas vigentes, ganancias medidas ni un supuesto de conversión de moneda.

Resultado operativo = consumo pagado − comisión del protocolo − todos los costes de operación. Evalúa escenarios sin demanda, con solicitudes ocasionales y con uso sostenido. Una oferta publicada, una GPU libre o un precio bajo por token no garantizan solicitudes ni ganancias. No compres hardware basándote en este ejemplo.

Describe la oferta y sus límites con claridad

Indica modelo exacto, unidades de precio de entrada/salida, disponibilidad y política de datos. Gyblos utiliza precios por millón de tokens de entrada y por millón de tokens de salida. Revisa qué incluye el precio mostrado y cómo se tratan fallos, reintentos y redondeos.

Los niveles previstos distinguen modelo verificado, uso medible y uso declarado. Describen evidencia del modelo o del uso; nunca una persona verificada. Las auditorías estadísticas no prueban cada respuesta ni su exactitud factual. En el recorrido directo, el vendedor procesa y puede leer el prompt; P2P no implica confidencialidad frente al vendedor.

Preguntas antes de comprometerte

¿Puedo vender inferencia con Ollama? Es una conexión de motor contemplada; que un modelo funcione localmente no demuestra una integración de Gyblos publicada. Comprueba la versión probada y la licencia primero.

¿Tengo que comprar una GPU? Mide primero lo que puede hacer tu equipo actual. Esta guía no prescribe una compra ni promete recuperar la inversión.

¿Cuánto voy a ganar? Depende de la demanda pagada, el precio, las entregas satisfactorias y todos tus costes. Los ejemplos del sitio no establecen una cifra de ganancias.

¿Puedo ofrecer inferencia gratis? Regalar acceso forma parte del diseño de Gyblos, con límites y disponibilidad que revisar. Hoy no se pueden crear ofertas gratuitas públicas desde este sitio.

Qué puedes hacer ahora

Prepara la lista de requisitos, mide un modelo local y consulta el estado público de implementación. El alta pública de vendedores y el mercado todavía no están disponibles. Sigue el desarrollo y espera una versión probada antes de depender de un proceso de instalación o venta.

Esta es una guía de preparación. El tutorial de instalación llegará con una versión probada. El paper público distingue lo construido, lo probado y lo planeado.

Fuentes y lecturas

La documentación del motor respalda las comprobaciones de preparación; no certifica compatibilidad con Gyblos. Lee la licencia exacta del modelo o las condiciones del servicio que elijas.