L'industrie de l'IA est confrontée à des défis importants, notamment le coût élevé et la disponibilité limitée des ressources informatiques. La formation et le déploiement de modèles d'IA nécessitent une puissance GPU importante, souvent coûteuse et inaccessible pour de nombreux utilisateurs. De plus, il existe un manque de transparence et de vérification dans les processus d'IA, ce qui entraîne des problèmes de confiance et d'inefficacité.

Hyperbolic résout ces problèmes en exploitant la technologie décentralisée. En créant un marché de GPU décentralisé, Hyperbolic rend les ressources de calcul plus abordables et accessibles. Ce marché permet aux utilisateurs de louer une capacité GPU inutilisée auprès de différents fournisseurs, réduisant ainsi les coûts et augmentant la disponibilité. De plus, Hyperbolic introduit la preuve d'échantillonnage (PoSP) pour des calculs d'IA fiables et utilise spML et le système d'exploitation décentralisé Hyperbolic (Hyper-dOS) pour optimiser la formation et le déploiement des modèles d'IA.

Qu'est-ce que Hyperbolic?

Source : site Hyperbolic

Hyperbolic est une plateforme décentralisée conçue pour révolutionner l'accès à l'IA et aux ressources informatiques. Au cœur de Hyperbolic, une place de marché est créée où les utilisateurs peuvent louer la capacité GPU inutilisée auprès de divers fournisseurs. Cette approche garantit une utilisation efficace des ressources, réduisant considérablement les coûts associés à l'informatique haute performance. En décentralisant la disponibilité de la puissance GPU, Hyperbolic rend possible pour un plus large éventail d'utilisateurs de s'engager dans le développement et le déploiement de l'IA, en abattant les barrières qui ont traditionnellement limité l'accès à ces technologies. Hyperbolic a été fondée par Dr Jasper ZhangetDr Yuchen Jin.

Mission et vision de Hyperbolic

La mission d'Hyperbolic est de démocratiser l'accès à l'IA et à la puissance de calcul, en rendant ces ressources disponibles à tous, indépendamment de leurs capacités financières ou techniques. La vision est de créer un écosystème transparent, efficace et décentralisé qui favorise l'innovation et la collaboration dans l'industrie de l'IA. En utilisant la technologie blockchain et les principes décentralisés, Hyperbolic vise à construire un avenir où le développement de l'IA est plus inclusif et équitable.

Utilisateurs de Hyperbolic

• Entreprises: Les entreprises peuvent utiliser Hyperbolic pour la formation et le déploiement rentables de modèles d'IA, réduisant les dépenses opérationnelles et accélérant les initiatives d'IA.
• Chercheurs: Les chercheurs universitaires et industriels ont accès à des ressources informatiques abordables, ce qui leur permet de mener des recherches avancées en intelligence artificielle sans supporter le fardeau financier des coûts traditionnels des GPU.
• Centres de données : Les centres de données peuvent monétiser leur capacité GPU inutilisée en la louant sur le marché Hyperbolic, transformant ainsi les ressources inutilisées en source de revenus.
• Les particuliers : les amateurs, les étudiants et les développeurs indépendants bénéficient d'outils et de ressources en IA accessibles, ce qui leur permet d'expérimenter, d'apprendre et d'innover sans investissement financier important.

La technologie derrière Hyperbolic

Preuve d'échantillonnage (PoSP)

Proof of Sampling (PoSP) est un protocole de vérification conçu pour garantir l'intégrité et la fiabilité des calculs d'IA dans les systèmes décentralisés. PoSP utilise une méthode d'échantillonnage pour vérifier les transactions et les interactions de données, réduisant ainsi considérablement la charge de calcul par rapport aux méthodes de vérification traditionnelles. En tirant parti des principes de la théorie des jeux, PoSP encourage les participants à agir de manière honnête, améliorant ainsi la fiabilité globale du réseau.

Comment fonctionne la preuve d'échantillonnage

PoSP fonctionne en sélectionnant des échantillons aléatoires à partir d'un ensemble de données ou d'une tâche de calcul et en vérifiant ces échantillons au lieu de l'ensemble de données entier. En utilisant un modèle de théorie des jeux connu sous le nom d'équilibre de Nash de stratégie pure, PoSP encourage tous les participants à agir honnêtement, améliorant ainsi la fiabilité et la crédibilité du réseau. Cette méthode réduit la quantité de données à traiter, rendant le processus de vérification plus efficace. Les participants du réseau sont incités à fournir des échantillons précis car un comportement malhonnête peut être détecté par analyse statistique. En cas de divergences, des pénalités sont imposées, garantissant que la plupart des participants agissent honnêtement.

spML

spML est un mécanisme de vérification conçu pour remédier aux lacunes des systèmes précédents (zkML et opML) en rationalisant le processus de vérification de l'inférence de l'IA dans les réseaux décentralisés. Le protocole spML utilise une méthode simple mais efficace pour garantir à la fois un traitement rapide et une haute sécurité sans la surcharge computationnelle et la complexité associées à zkML ou la vulnérabilité à la fraude observée dans opML.

Comment fonctionne spML

Le protocole commence lorsque qu'un utilisateur envoie une entrée avec sa signature numérique à un serveur sélectionné au hasard, connu sous le nom de Serveur A. Le Serveur A traite l'entrée et renvoie le résultat avec son hachage, également signé pour vérifier son authenticité. Pour assurer la fiabilité de l'inférence, le protocole peut impliquer de manière aléatoire un serveur supplémentaire, le Serveur B, pour vérifier indépendamment le résultat. Cela se produit avec une probabilité prédéterminée; si le Serveur B n'est pas sélectionné, le Serveur A reçoit une récompense et la transaction se conclut avec succès.

Si le serveur B est impliqué, il traite la même entrée et renvoie sa sortie et son hachage à l'utilisateur. L'utilisateur compare ensuite les deux hachages. S'ils correspondent, indiquant des résultats cohérents, les deux serveurs sont récompensés. Si les hachages diffèrent, indiquant une éventuelle divergence ou fraude, l'utilisateur diffuse ces informations à l'ensemble du réseau. Le réseau, composé de plusieurs nœuds, vote pour arbitrer la demande en fonction de la règle de la majorité. Des sanctions sont imposées à toute partie malhonnête pour maintenir l'intégrité et la confiance du système.

Système d'exploitation décentralisé hyperbolique (Hyper-dOS)

Hyper-dOS est le système d'exploitation décentralisé qui gère et orchestre les ressources au sein de l'écosystème Hyperbolic. Il garantit que les tâches de calcul sont distribuées et exécutées efficacement sur le réseau. Hyper-dOS joue un rôle crucial dans le maintien des performances et de la scalabilité de l'infrastructure décentralisée de Hyperbolic, permettant l'intégration et l'exploitation sans faille de divers services d'IA. En coordonnant l'allocation des ressources, Hyper-dOS maximise l'utilisation de la puissance de calcul disponible, garantissant que les tâches sont achevées rapidement et efficacement.

Architecture de l'écosystème hyperbolique

Source : le blog de Hyperbolic

Hyperbolic Gate Orchestration Layer décentralisée

La couche d'orchestration décentralisée est l'épine dorsale de l'infrastructure d'Hyperbolic. Alimentée par le système d'exploitation décentralisé d'Hyperbolic (Hyper-dOS), cette couche gère et optimise l'infrastructure GPU mondiale. Elle intègre la puissance de calcul de sources diverses, y compris les centres de données, les fermes minières, les machines personnelles et les systèmes sur site.

Les principales caractéristiques incluent:

• Auto-scaling: Le système peut ajuster automatiquement la taille des clusters GPU en fonction de la demande en temps réel, garantissant une utilisation efficace des ressources.
• Auto-guérison: La couche d'orchestration peut détecter et récupérer les défaillances de manière autonome, assurant un fonctionnement continu sans intervention manuelle.
• Personnalisation: Les utilisateurs peuvent adapter les clusters pour répondre à des besoins spécifiques, offrant ainsi flexibilité et adaptabilité pour diverses applications.

Couche de services d'IA

Cette couche héberge une suite complète de services et de moteurs d'IA, offrant des fonctionnalités essentielles pour les applications d'IA. Il prend en charge un large éventail de tâches, de l'automatisation simple aux processus complexes d'optimisation et d'amélioration.

Les principaux composants comprennent:

• Services d'inférence : Ces services permettent des prévisions et une prise de décision en temps réel par des modèles d'IA, garantissant des performances et une précision élevées.
• Entraînement de modèle et ajustement fin: Les outils d'entraînement et d'ajustement fin des modèles d'IA permettent aux développeurs d'adapter les modèles à des tâches et des ensembles de données spécifiques, améliorant ainsi leur efficacité.
• Évaluation du modèle d'IA : cela comprend des outils et des références pour évaluer les performances et la précision des modèles d'IA, aidant les développeurs à affiner et à améliorer continuellement leurs modèles.

Couche de vérification et de confidentialité

La couche de vérification et de confidentialité garantit l'intégrité et la confidentialité des calculs d'IA. Elle intègre la Preuve d'Echantillonnage (PoSP) pour vérifier l'exactitude des calculs, protégeant contre les activités frauduleuses. De plus, cette couche inclut des techniques de préservation de la vie privée pour protéger les données sensibles lors du traitement, garantissant que les données des utilisateurs restent sécurisées et confidentielles.

Couche hyperbolique de la blockchain

La couche blockchain est le fondement de la sécurité et de la transparence d'Hyperbolic. Elle fournit un registre sécurisé et immuable pour toutes les transactions et les interactions au sein de l'écosystème. Cette couche renforce la confiance et la responsabilité en veillant à ce que toutes les activités soient enregistrées de manière transparente. Elle prend également en charge les contrats intelligents, permettant des accords automatisés et sécurisés entre les parties, ce qui rationalise les opérations et réduit le besoin d'intermédiaires.

Couche d'application

La couche d'application est l'interface par laquelle les utilisateurs finaux interagissent avec l'écosystème Hyperbolic. Elle comprend diverses applications et interfaces utilisateur conçues pour être intuitives et accessibles. Cette couche garantit que les utilisateurs techniques et non techniques peuvent facilement accéder et utiliser les services de Hyperbolic. Les applications de cette couche vont des tableaux de bord utilisateur simples aux environnements de développement complexes, répondant à un large éventail de besoins des utilisateurs.

Inférence AI de Hyperbolic

L'inférence en IA est le processus par lequel les modèles d'IA entraînés interprètent de nouvelles données et prennent des décisions en fonction de leur formation. Contrairement à la phase d'entraînement, qui implique d'apprendre des motifs à partir de vastes ensembles de données, l'inférence applique cette connaissance acquise à de nouvelles données non vues pour générer des prédictions ou des résultats. Les capacités d'inférence en IA de Hyperbolic sont conçues pour être efficaces et évolutives, en tirant parti d'un réseau décentralisé de ressources GPU pour fournir des résultats rapides et précis. Cette approche décentralisée garantit que les tâches d'inférence peuvent être réparties sur plusieurs nœuds, améliorant ainsi les performances et la fiabilité.

Avantages de l'inférence AI d'Hyperbolic

• Scalabilité: Le réseau décentralisé peut gérer des tâches d'inférence à grande échelle, garantissant des performances constantes même pendant une utilisation intensive.
• Efficacité des coûts : En utilisant les ressources GPU inactives, Hyperbolic réduit le coût de l'inférence IA, la rendant plus accessible à une gamme plus large d'utilisateurs.
• Efficacité énergétique : L'inférence efficace réduit le coût de calcul et la consommation d'énergie, contribuant à des applications d'IA plus durables.

Modèles d'IA Open Source Hyperbolique

Source : le site web de Hyperbolic

Hyperbolic fournit l'accès à une variété de modèles d'IA open source haute performance, permettant aux développeurs de tirer parti de la technologie de pointe sans les coûts élevés associés aux fournisseurs traditionnels. Quelques exemples de modèles disponibles incluent :

• Modèles de langage Vision (VLM), combinant la compréhension visuelle et textuelle tels que Qwen2-VL-7B-Instruct, Pixtral-12B et Qwen2-VL-7B
• Modèles de base permettant d'accéder à la puissance brute de l'IA fondamentale telle que Llama 3.1–405B-BASE (BF16) et Llama 3.1–405B-BASE (FP8)
• Modèles texte-à-texte pour les tâches de traitement du langage naturel telles que Qwen2.5-Code-32B, Llama 3.2-3B, DeepSeek-V2.5, Llama 3.1-7B, Hermes-3-70B, Llama 3.1-405B, Llama 3.1-3B et Llama 3.1-88
• Modèles de texte vers image pour libérer votre créativité avec des visuels générés par l'IA tels que Flux 1 [dev], SDXL-1.0, Segmind SD–1B, Stable Diffusion–1.5 et SDXL-1.0-Turbo
• Modèles de synthèse vocale pour des applications de synthèse vocale telles que Melo TTS.

Guide d'accès et d'utilisation des modèles open source

Pour accéder et utiliser les modèles d'IA open-source de Hyperbolic, suivez ces étapes :

1. Créer un compte: Inscrivez-vous sur la plateforme Hyperbolic pour accéder aux modèles disponibles.
2. Sélectionnez un modèle : Parcourez la liste des modèles disponibles et choisissez celui qui correspond à vos besoins.
3. Déployer le modèle : Utilisez l'infrastructure décentralisée de Hyperbolic pour déployer le modèle, en veillant à ce qu'il fonctionne sur le meilleur matériel disponible.
4. Intégrer avec des applications: Utilisez l'API du modèle pour l'intégrer à vos applications, permettant des capacités d'IA transparentes.

Marché de cartes graphiques hyperboliques

La place de marché Hyperbolic GPU est une plateforme décentralisée qui permet aux utilisateurs de louer la capacité GPU inutilisée auprès de différents fournisseurs. Cette place de marché met en relation ceux qui ont besoin de puissance de calcul pour des tâches d'IA avec ceux qui disposent de ressources GPU excédentaires, créant ainsi une solution rentable et efficace pour les deux parties. En exploitant cette place de marché, les utilisateurs peuvent accéder à des GPU haute performance à une fraction du coût par rapport aux fournisseurs de cloud traditionnels.

Technologie derrière le marché GPU hyperbolique

La technologie qui sous-tend le marché Hyperbolic GPU est construite sur le Système d'Exploitation Décentralisé Hyperbolique (Hyper-dOS). Ce système gère et optimise l'infrastructure GPU mondiale, garantissant que les tâches de calcul sont distribuées efficacement à travers le réseau. Hyper-dOS intègre diverses sources de puissance GPU, y compris les centres de données, les fermes de minage, les machines personnelles et les systèmes sur site, afin de créer une infrastructure robuste et évolutive.

Différenciateurs clés du marché Hyperbolic GPU

• Fournisseurs : Les fournisseurs sur le marché des GPU hyperboliques peuvent monétiser leurs ressources GPU inactives en les louant aux utilisateurs. Cela offre une source de revenus supplémentaire pour les centres de données, les fermes de minage et les particuliers équipés de GPU haute performance. Les fournisseurs bénéficient de la nature décentralisée de la plateforme, qui garantit une rémunération équitable et une utilisation efficace des ressources.
• Locataires : les locataires peuvent accéder à différentes options de GPU pour répondre à leurs besoins en calcul. Le marché offre une expérience fluide, permettant aux utilisateurs de louer des GPU en quelques clics seulement. Cette accessibilité et des prix compétitifs en font une option attrayante pour les chercheurs, les développeurs et les entreprises souhaitant réduire leurs coûts d'infrastructure IA.

Tarification hyperbolique

Tarification du marché des GPU

Le marché Hyperbolic GPU propose une structure de tarification flexible et compétitive pour la location de ressources GPU. Les fournisseurs peuvent fixer leurs propres prix dans les directives fournies par Hyperbolic, garantissant des tarifs équitables sur le marché. Voici un détail de la tarification :

80GB VRAM:

• H100 SXM: 3,20 $ par heure
• H100 PCIe: 3,00 $ par heure
• A100 SXM: 1,80 $ par heure
• A100 PCIe: 1,60 $ par heure

48GB VRAM :

• L40 : 1,00 $ de l’heure
• L40S: 1,00 $ par heure
• RTX 6000 Ada: 0,90 $ par heure
• RTX A6000 : 0,75 $ par heure
• A40: 0,50 $ par heure

24 Go de VRAM et moins :

• RTX 4090 : 0,50 $ par heure
• RTX 3090 Ti : 0,30 $ par heure
• RTX 3090: 0,30 $ par heure
• RTX A5000 : 0,30 $ par heure
• RTX A4000 Ada : 0,30 $ par heure
• RTX A4500: 0,30 $ par heure
• RTX A4000: 0,30 $ par heure
• RTX 3080: 0,20 $ par heure
• RTX 3070: 0,20 $ par heure
• A30: 0,20 $ par heure
• Tesla T4: 0,20 $ par heure

Hyperbolic prélève des frais de plateforme de 10% sur les revenus locatifs. Par exemple, si un fournisseur fixe le prix d'un H100 SXM à 2,50 $ l'heure, il recevra 2,25 $ l'heure après déduction des frais de plateforme. Cette structure de frais garantit que les fournisseurs sont rémunérés équitablement tout en maintenant des prix compétitifs pour les locataires.

Tarification de l'inférence d'IA

Hyperbolic propose un modèle de tarification par paliers pour les services d’inférence d’IA, répondant aux différents besoins et budgets des utilisateurs. Voici un aperçu détaillé des niveaux de tarification :

Niveau de base:

• Utilisateurs gratuits : jusqu'à 60 requêtes par minute.
• Utilisateurs payants : Jusqu'à 600 requêtes par minute pour les utilisateurs qui déposent un minimum de 10 $ sur leur compte.

Les services comprennent l'accès à des modèles de texte à texte, de texte à parole, de texte à image et de texte à vidéo, ainsi que des services de peaufinage.

Niveau Entreprise:

• Demandes illimitées: Convient aux opérations à grande échelle.
• Suite complète de modèles d'IA : Accès à tous les modèles disponibles.
• Support dédié : SLA personnalisés et instances dédiées pour les utilisateurs d'entreprise.

Démarrer avec Hyperbolic

Comment créer un compte avec Hyperbolic

• Visitez le Site hyperbolique.
• Inscrivez-vous : Choisissez de vous connecter avec vos comptes Google ou GitHub, ou sélectionnez "Créer un compte" pour configurer un mot de passe unique.
• Complétez l'inscription: Remplissez les détails requis et confirmez votre adresse e-mail.
• Accéder au tableau de bord : Une fois inscrit, vous aurez un accès immédiat au tableau de bord AI de Hyperbolic, où vous pourrez explorer différents modèles d'IA et ressources GPU.

Commencer avec l'inférence Hyperbolic AI

Pour commencer à utiliser les services d'inférence IA de Hyperbolic :

1. Obtenez une clé API : Après avoir créé votre compte, accédez à la page Paramètres du tableau de bord Hyperbolic AI pour obtenir votre clé API.

2. Sélectionnez un modèle : Choisissez parmi une variété de modèles d'IA disponibles sur la plateforme.

3. Exécution de l'inférence : Utilisez les points d'extrémité d'API fournis pour exécuter des tâches d'inférence. Par exemple, vous pouvez générer du texte, des images ou du son en envoyant des requêtes aux points d'extrémité appropriés.

Comment louer des GPU sur Hyperbolic

1. Accédez à l'onglet Louer des GPUs : Sur la plateforme Hyperbolic, allez dans la section "Louer des GPUs".
2. Choisissez une instance GPU : Sélectionnez l'instance GPU qui correspond le mieux à vos besoins parmi les options disponibles.
3. Louez le GPU : Cliquez sur 'Louer' et attendez que l'instance indique 'Prêt à se connecter'.
4. Connectez-vous au GPU : Utilisez la commande SSH fournie pour vous connecter à l'instance GPU à l'aide de votre client SSH préféré.
5. Utilisez le GPU : Une fois connecté, vous pouvez commencer à utiliser le GPU pour vos tâches de calcul.

Hébergement et monétisation de modèles d’IA

1. Préparez votre modèle : assurez-vous que votre modèle d'IA est prêt pour le déploiement.
2. Téléchargez votre modèle : Utilisez la plate-forme Hyperbolic pour télécharger votre modèle.
3. Configurer l'hébergement : Configurer les paramètres d'hébergement, y compris les points d'API et l'allocation des ressources.
4. Monétisez votre modèle : fixez les prix pour accéder à votre modèle. Hyperbolic fournit des outils pour gérer les paiements et suivre l'utilisation.
5. Surveiller la performance : Utilisez le tableau de bord pour surveiller la performance de votre modèle et apporter des ajustements si nécessaire.

Voyage de collecte de fonds hyperbolique

Source : site web de Hyperbolic

Hyperbolic a réussi à lever 20 millions de dollars grâce à plusieurs tours de financement, démontrant la confiance solide des investisseurs dans sa vision et sa technologie. Hyperbolic a levé 725 000 dollars lors de son tour de financement de pré-amorçage en novembre 2022. Cet investissement précoce a aidé l'entreprise à développer sa technologie de base et à construire une équipe fondatrice. En juillet 2024, l'entreprise a obtenu 7 millions de dollars lors d'un tour de financement de démarrage mené par Faction et Polychain Capital, avec la participation de Longhash Ventures, Bankless Ventures et Nomad. Ce tour a permis à Hyperbolic d'étendre son infrastructure et d'améliorer son marché décentralisé de GPU. Hyperbolic a ensuite réussi à lever 12 millions de dollars lors de son tour de financement de série A, mené par Polychain Capital et Variant, avec des investissements supplémentaires de Republic Capital, IOSG Ventures et Wintermute. Ce financement était crucial pour l'expansion des opérations, l'amélioration des services d'IA et l'élargissement de la base d'utilisateurs.

Conclusion

En abordant des défis critiques tels que les coûts élevés, l'accès limité à la puissance de calcul et la nécessité d'une vérification transparente, Hyperbolic démocratise la technologie de l'IA. Son marché décentralisé de GPU, ses technologies innovantes telles que la Preuve d'Échantillonnage (PoSP) et spML, ainsi que son architecture d'écosystème complète, offrent des solutions robustes, efficaces et sécurisées pour de nombreux utilisateurs. Alors qu'Hyperbolic avance, il reste attaché à sa vision de créer un écosystème transparent, efficace et décentralisé qui favorise l'innovation et la collaboration. Que vous soyez une entreprise, un chercheur, un centre de données ou un particulier, Hyperbolic offre les outils et les ressources nécessaires pour exploiter efficacement la puissance de l'IA et de la technologie de calcul.