Η Red Hat, ο γίγαντας λογισμικού ανοιχτού κώδικα που ανήκει στην IBM, ολοκλήρωσε την εξαγορά της Neural Magic, μιας πρωτοποριακής startup βελτιστοποίησης τεχνητής νοημοσύνης (AI). Η συμφωνία, η οποία ανακοινώθηκε αρχικά τον Νοέμβριο του 2024, έκλεισε στις 13 Ιανουαρίου 2025, σηματοδοτώντας ένα σημαντικό βήμα στη στρατηγική της Red Hat να επεκτείνει τις δυνατότητες τεχνητής νοημοσύνης σε περιβάλλοντα υβριδικού cloud.
Αν και η τιμή δεν αποκαλύφθηκε, η Neural Magic προηγουμένως συγκέντρωσε 50 εκατομμύρια δολάρια σε χρηματοδότηση επιχειρηματικών συμμετοχών από διάφορους επενδυτές, συμπεριλαμβανομένων των Andreessen Horowitz, New Enterprise Associates, Amdocs και Comcast Ventures. Είναι ασφαλές να υποθέσουμε ότι η συμφωνία δεν ολοκληρώθηκε για πένες. Είμαι σίγουρος ότι μάλλον δεν χάλασε που ο Διευθύνων Σύμβουλος της Neural Magic πριν κλείσει η συμφωνία ήταν ο Brian Stevens, ο πρώην CTO και EVP της Red Hat.
Επίσης: Καλύτερα μοντέλα AI ανοιχτού κώδικα: Επεξηγούνται όλες οι δωρεάν επιλογές.
Όταν ανακοινώθηκε για πρώτη φορά η συγχώνευση, ο Stevens είπε: «Στη Neural Magic, το όραμά μας είναι ότι το μέλλον της τεχνητής νοημοσύνης είναι ανοιχτό και έχουμε μια αποστολή να ενδυναμώσουμε τις επιχειρήσεις να αξιοποιήσουν τις ισχυρές καινοτομίες της τεχνητής νοημοσύνης παραμένοντας ελεύθερες. Στο επίκεντρο αυτού βρίσκονται μοντέλα ανοιχτού κώδικα, αλγόριθμοι βελτιστοποίησης και συστήματα συμπερασμάτων που επιτρέπουν στις επιχειρήσεις να κατέχουν τα δικά τους μοντέλα τεχνητής νοημοσύνης, να τα προσαρμόζουν ιδιωτικά για τα σύνολα δεδομένων τους και να τα αναπτύσσουν στην ιδιωτική τους υποδομή πολλών προμηθευτών. – cloud, data center ή edge.”
Το Neural Magic, ένα spinout του MIT που ιδρύθηκε το 2018, έχει αναπτύξει καινοτόμο λογισμικό και αλγόριθμους που επιταχύνουν τον παραγωγικό φόρτο εργασίας AI.
Η τεχνολογία της εταιρείας επιτρέπει σε πολύπλοκα μοντέλα τεχνητής νοημοσύνης να λειτουργούν αποτελεσματικά σε υλικό εμπορευμάτων, συμπεριλαμβανομένων των CPU και των GPU εμπορευμάτων, μειώνοντας ενδεχομένως την ανάγκη για ακριβούς, αποκλειστικούς επιταχυντές τεχνητής νοημοσύνης.
Επίσης: Σχεδόν οι μισοί από τους υποστηρικτές της τεχνητής νοημοσύνης αυτής της γενιάς θέλουν να είναι ανοιχτού κώδικα—ιδού γιατί.
Τι σημαίνει λοιπόν αυτή η ευκαιρία; Ως αποτέλεσμα της εξαγοράς, η Neural Magic έφερε αρκετές βασικές τεχνολογίες στη Red Hat:
- Εμπειρία vLLM: Η Neural Magic συνεισφέρει κορυφαία στο vLLM, ένα έργο ανοιχτού κώδικα για την αποτελεσματική εξυπηρέτηση μεγάλων γλωσσικών μοντέλων (LLM). Συγκεκριμένα, το vLLM είναι ήδη η μηχανή συμπερασμάτων για το Red Hat Enterprise Linux (RHEL) AI και το Red Hat OpenShift AI. Η κίνηση θα ωφελήσει σαφώς τα υπάρχοντα προγράμματα τεχνητής νοημοσύνης της Red Hat.
- DeepSparse: Ένας χρόνος εκτέλεσης συμπερασμάτων που παρέχει απόδοση κατηγορίας GPU σε επεξεργαστές βασικών προϊόντων μέσω αλγορίθμων που μειώνουν τις απαιτήσεις υπολογισμού και μνήμης της εκτέλεσης νευρωνικών δικτύων. Συγκεκριμένα, εκτός από το LLM, το DeepSparse είναι επίσης χρήσιμο για την όραση υπολογιστή (CV) και την επεξεργασία φυσικής γλώσσας (NLP).
- SparseZoo: Εάν χρησιμοποιείτε το DeepSparse, το Neural Magic παρέχει ήδη ένα αποθετήριο προ-βελτιστοποιημένων μοντέλων CV, NLP και LLM.
- Τεχνικές συμπίεσης μοντέλου: Η Neural Magic έχει αναπτύξει προηγμένες τεχνικές κβαντοποίησης και αραιοποίησης μοντέλων που μπορούν να μειώσουν σημαντικά το μέγεθος του μοντέλου και τις υπολογιστικές απαιτήσεις χωρίς σημαντική απώλεια ακρίβειας.
- Βελτιστοποίηση πολλαπλών πλατφορμών. Η τεχνολογία Neural Magic βελτιστοποιεί το μοντέλο AI σας για ανάπτυξη στο cloud, στο κέντρο δεδομένων και στο edge.
Αυτές οι τεχνολογίες ευθυγραμμίζονται με το όραμα της Red Hat να κάνει τους φόρτους εργασίας της τεχνητής νοημοσύνης πιο προσιτές, αποτελεσματικές και εφαρμόσιμες σε υβριδικά περιβάλλοντα cloud, μειώνοντας ενδεχομένως την ανάγκη για εξειδικευμένο και ακριβό υλικό τεχνητής νοημοσύνης. Εν ολίγοις, η τεχνολογία Neural Magic επιτρέπει στους χρήστες να δημιουργούν τεχνητή νοημοσύνη φθηνά. Ουσιαστικά, αυτή είναι επίσης μια προσέγγιση vLLM ανοιχτού κώδικα.
Επίσης: Χρειάζονται άνθρωποι για την κατασκευή ρομπότ για το OpenAI – και δεν είναι όλοι ευχαριστημένοι
Όσον αφορά τη Red Hat, όπως είπε ο Διευθύνων Σύμβουλος της εταιρείας Matt Hicks, «Είμαστε ενθουσιασμένοι που συμπληρώνουμε το χαρτοφυλάκιο τεχνητής νοημοσύνης που εστιάζεται στο υβριδικό σύννεφο με την πρωτοποριακή καινοτομία τεχνητής νοημοσύνης της Neural Magic, ενισχύοντας τη δέσμευσή μας να είμαστε κάτι περισσότερο από το «Red Hat». το πεδίο ανοιχτού κώδικα, αλλά και το «Red Hat» AI».
Στο X, ο Hicks έγραψε: «Στο @RedHat πιστεύουμε ότι το μέλλον της τεχνητής νοημοσύνης είναι ανοιχτό. Γι’ αυτό είμαι απίστευτα ενθουσιασμένος με την απόκτηση του @NeuralMagic. Μαζί προωθούμε τη δέσμευσή μας προς τους πελάτες μας και τον ανοιχτό κώδικα. κοινότητα για να τροφοδοτήσει το μέλλον της τεχνητής νοημοσύνης — και αυτό ξεκινά σήμερα».
Στρατηγικά, η Red Hat ελπίζει ότι η απόκτηση του Neural Magic θα ενισχύσει την ικανότητα της Red Hat να αναπτύσσει φόρτους εργασίας τεχνητής νοημοσύνης σε διάφορα περιβάλλοντα υπολογιστών, από κέντρα δεδομένων εντός εγκατάστασης έως δημόσια σύννεφα, καθώς και να βελτιώσει την αποτελεσματικότητα των φόρτων εργασίας AI που εκτελούνται ήδη στο RHEL ΟΛΑ ΣΥΜΠΕΡΙΛΑΜΒΑΝΟΝΤΑΙ. Το OpenShift AI and InstructLab είναι ένα κοινοτικό έργο Red Hat και IBM AI με στόχο τη βελτίωση των προγραμμάτων ανοιχτού κώδικα LLM της IBM Granite.
Επίσης: 15 τρόποι με τους οποίους η τεχνητή νοημοσύνη μου εξοικονόμησε χρόνο στη δουλειά το 2024 και πώς σκοπεύω να τους χρησιμοποιήσω το 2025.
Λοιπόν, θα λειτουργήσει αυτή η προσέγγιση; Ο Dave McCarthy, Αντιπρόεδρος του Cloud and Edge Research της IDC, δήλωσε: «Η εξαγορά της Neural Magic από τη Red Hat είναι μια στρατηγική επέκταση των δυνατοτήτων της AI, καθιστώντας ευκολότερη την ανάπτυξη της τεχνητής νοημοσύνης σε υβριδικά σύννεφα αξιοποιώντας την τεχνογνωσία της Neural Magic στη βελτιστοποίηση και την επιτάχυνση μοντέλων. παραγωγή. Αυτή η κίνηση είναι συνεπής με τη δέσμευση της Red Hat για καινοτομία ανοιχτού κώδικα και επιτρέπει στην εταιρεία να προσφέρει πιο οικονομικά αποδοτικές και επεκτάσιμες λύσεις τεχνητής νοημοσύνης που μειώνουν την εξάρτηση από εξειδικευμένο υλικό».
