Inferencia P2P: cómo funciona y qué límites tiene
La inferencia de IA entre pares conecta a quien necesita una respuesta de un modelo con un vendedor que puede producirla. El comprador elige una oferta, envía una solicitud y recibe el resultado de ese vendedor. La intención es ampliar el acceso a la inteligencia permitiendo producirla, venderla o regalarla.
Gyblos está en desarrollo. El mercado público y las aplicaciones todavía no se han lanzado. Esta guía explica el diseño y qué revisar antes de elegir un servicio; el paper público registra el estado de implementación y las pruebas.
Por Gyblos · Revisado el
¿Qué se intercambia?
Inferencia significa ejecutar un modelo entrenado para producir un resultado, como una respuesta o un resumen. En un mercado de inferencia P2P, el comprador solicita ese trabajo a un vendedor. El vendedor opera un motor de modelos o utiliza un servicio externo bajo su responsabilidad.
La oferta debería identificar el modelo, las unidades de precio, la disponibilidad, los límites y la política de datos. El nombre de un modelo o la URL de un motor no bastan para demostrar qué pesos se ejecutaron, cómo se contó el uso o qué pasó con los datos.
¿P2P, inferencia distribuida o alquiler de GPU?
Son decisiones distintas sobre quién ejecuta el modelo y qué recibe el comprador. Un servicio puede combinar más de un enfoque; revisa la oferta concreta.
Un mercado P2P no requiere repartir un modelo entre los equipos de compradores y vendedores. En el diseño de Gyblos, un vendedor seleccionado atiende cada solicitud. Combinar dispositivos detrás de un vendedor es una decisión de implementación aparte, no una capacidad demostrada de Gyblos.
| Enfoque | Qué obtienes | Qué revisar |
|---|---|---|
| Mercado de inferencia P2P | Respuestas de una oferta atendida por un vendedor. | Modelo, medición del uso, presupuesto, política de datos y disponibilidad. |
| Inferencia distribuida | Ejecución del modelo repartida entre dispositivos. | Cómo se divide el trabajo, requisitos de red y quién accede a cada parte. |
| Alquiler de GPU | Acceso a capacidad de cómputo que configuras o gestionas según las condiciones del alquiler. | Hardware, tiempo facturado, almacenamiento, preparación y operación del modelo. |
| Inferencia local | Un modelo ejecutado en tu propio equipo. | Licencia, memoria, electricidad, software y los recorridos de datos que configures. |
Una solicitud, desde la oferta hasta el resultado
La ruta prevista entre comprador y vendedor en Gyblos sigue estos pasos. Explican el diseño del protocolo, no un tutorial de instalación disponible.
- Descubrir y comparar ofertas. Revisa el modelo declarado, los precios de entrada y salida, los límites y el tratamiento de datos.
- Elegir vendedor y presupuesto. Para el uso pagado, el diseño utiliza canales de pago con USDC en Solana; el modelo se ejecuta fuera de la cadena.
- Enviar la solicitud desde el nodo comprador al nodo vendedor. El vendedor ejecuta su motor configurado y devuelve la respuesta. El tráfico entre nodos puede viajar por conexión directa o relay cifrado.
- Revisar el uso y el resultado. La liquidación y devolución de fondos no usados forman parte del diseño de pagos; una conexión o respuesta no demuestran la recuperación del pago.
Compara el coste por resultado útil
Un precio bajo por token es un dato para decidir. Incluye entrada y salida, trabajo fallido, reintentos que se cobren, costes de red o protocolo y número de tareas útiles completadas. Comprueba qué incluye el precio antes de sumar comisiones aparte.
Fija un límite de gasto y otro de llamadas. Si el resultado de un pago es incierto, detén las llamadas pagadas nuevas y concílialo antes de continuar. Un reintento técnico no debe convertirse silenciosamente en otro pago.
Las ofertas gratuitas dependen del vendedor, de la disponibilidad y de sus límites. Siguen consumiendo equipo, electricidad o el presupuesto de alguien. La conexión P2P y un mercado abierto no demuestran el precio más bajo ni acceso gratuito ilimitado.
¿Quién puede leer la solicitud?
El vendedor puede leer los prompts y respuestas que procesa. Si utiliza un proveedor externo, ese proveedor añade otro límite de confianza para los datos. La conexión entre la aplicación y el nodo comprador también es distinta de la conexión entre comprador y vendedor.
Iroh cifra el tráfico entre sus extremos. Un relay reenvía ese tráfico cifrado cuando no hay ruta directa y no puede leer su contenido. Esto protege el transporte entre los nodos comprador y vendedor; no oculta el contenido al vendedor ni demuestra anonimato.
Revisa retención, registros, servicios externos y eliminación antes de enviar información sensible. Declarar una política no demuestra su cumplimiento. Un futuro gateway gestionado introduce sus propias responsabilidades sobre las solicitudes y los fondos.
Identidad, uso y modelo responden preguntas distintas
Un registro de identidad o una oferta firmada pueden ayudar a establecer quién asumió un compromiso. Un recibo firmado puede registrar lo que sus firmantes declaran. Ninguno demuestra qué modelo produjo una respuesta, que cada conteo de tokens sea veraz o que la respuesta sea correcta.
El diseño de Gyblos distingue modelo verificado, uso medible y uso declarado. El sello previsto de modelo verificado se aplica solo a modelos de pesos abiertos elegibles con la información necesaria para auditorías estadísticas contra pesos de referencia. Un tokenizador público puede ayudar a recontar el uso sin demostrar la identidad del modelo; el uso declarado depende del informe del vendedor.
Estas descripciones corresponden al modelo y al uso, nunca a un «vendedor verificado». Las auditorías estadísticas y su operación en producción son distintas de las comprobaciones de identidad y transporte. Consulta la implementación actual antes de depender de una garantía prevista.
¿Puede participar un equipo de casa?
La participación depende del modelo, la memoria, el contexto, las solicitudes simultáneas y el software del equipo. Prueba el trabajo que quieras ofrecer. Tener hardware no demuestra capacidad utilizable, compatibilidad ni demanda.
El diseño del nodo permite conectar un motor de modelos, local o una API externa bajo responsabilidad del vendedor. Revisa licencias y derechos de reventa. La visión a largo plazo incluye más tipos de dispositivos; no está demostrado el soporte completo de comprador y vendedor en todos ellos.
Las redes domésticas pueden necesitar un relay. Mide el recorrido completo de la solicitud, la disponibilidad y los costes de operación, además de la velocidad de generación local.
Cinco preguntas antes de elegir una oferta
Úsalas para comparar el servicio al que realmente puedes acceder hoy. La documentación y los ejemplos del catálogo de Gyblos no demuestran que haya un vendedor disponible.
- ¿Puedo acceder a esta oferta y admite el modelo, contexto y flujo de trabajo que necesito?
- ¿Qué se mide, qué solo se declara y qué evidencia está disponible?
- ¿Cuánto puedo gastar, qué sucede ante un fallo y cómo se concilia un pago incierto?
- ¿Quién recibe mi contenido y cuáles son sus políticas de datos?
- ¿Qué ocurre si el vendedor o la conexión dejan de estar disponibles?