Στον κλάδο της τεχνολογίας, μετά βίας μπορείτε να συνομιλήσετε χωρίς κάποιος να αναφέρει συμπεράσματα, τεχνητή νοημοσύνη (AI) και μηχανική μάθηση (ML). Ωστόσο, είναι σημαντικό να σημειωθεί ότι ενώ όλοι αυτοί οι όροι είναι αλληλένδετοι, διαφέρουν επίσης σημαντικά.
Σε αυτό το άρθρο, θα εξηγήσουμε τις θεμελιώδεις διαφορές και θα υπογραμμίσουμε τη σημασία της χρήσης τεχνολογίας τεχνητής νοημοσύνης με βάση την επεξεργασία τανυστών-, ιδιαίτερα σε συστήματα ακμών και ενσωματωμένων συστημάτων. Σε σύγκριση με λύσεις που βασίζονται σε μονάδες επεξεργασίας γραφικών (GPU), οι μονάδες επεξεργασίας τανυστού (TPU) προσφέρουν πιο αποτελεσματική και οικονομικά{2}}οικονομική απόδοση. Θα παρέχουμε επίσης ορισμένα παραδείγματα περιπτώσεων χρήσης που δείχνουν πού μπορεί να συναντήσετε λύσεις τεχνητής νοημοσύνης αιχμής στο μέλλον.
Βασικές αρχές της ML και συμπερασμάτων
Η ML αναφέρεται στη μεθοδολογία των μοντέλων εκπαίδευσης που χρησιμοποιούν αντιπροσωπευτικά δεδομένα για να επιτρέψουν στις μηχανές να μάθουν πώς να εκτελούν εργασίες. Αυτή η διαδικασία μπορεί να είναι εξαιρετικά απαιτητική από υπολογισμούς, δημιουργώντας τρισεκατομμύρια λειτουργίες ανά νέο σημείο δεδομένων εκπαίδευσης. Η επαναληπτική φύση της εκπαιδευτικής διαδικασίας, σε συνδυασμό με τα τεράστια σύνολα δεδομένων εκπαίδευσης που απαιτούνται για την επίτευξη υψηλής ακρίβειας, ωθεί τη ζήτηση για επεξεργασία κινητής{3}} εξαιρετικά υψηλής απόδοσης-. Η εκπαίδευση ML εφαρμόζεται καλύτερα ως υποδομή κέντρων δεδομένων, όπου το υψηλό κεφάλαιο και το λειτουργικό κόστος μπορεί να δικαιολογηθεί με την απόσβεσή τους σε πολλούς πελάτες.
Το συμπέρασμα περιλαμβάνει τη χρήση εκπαιδευμένων μοντέλων για τη δημιουργία πιθανών αντιστοιχιών για νέα δεδομένα που σχετίζονται με τα αντιπροσωπευτικά δεδομένα στα οποία εκπαιδεύτηκε το μοντέλο. Το συμπέρασμα στοχεύει στην παροχή γρήγορων απαντήσεων μέσα σε χιλιοστά του δευτερολέπτου. Παραδείγματα συμπερασμάτων περιλαμβάνουν αναγνώριση ομιλίας,-μετάφραση γλώσσας σε πραγματικό χρόνο, μηχανική όραση και αποφάσεις βελτιστοποίησης εισαγωγής διαφημίσεων. Ενώ η εξαγωγή συμπερασμάτων απαιτεί μόνο ένα κλάσμα της επεξεργαστικής ισχύος που απαιτείται για την εκπαίδευση, εξακολουθεί να υπερβαίνει κατά πολύ αυτό που μπορούν να προσφέρουν τα παραδοσιακά συστήματα που βασίζονται σε κεντρική μονάδα επεξεργασίας (CPU)-, ιδιαίτερα για εφαρμογές υπολογιστικής όρασης. Αυτός είναι ο λόγος για τον οποίο τόσες πολλές εταιρείες στρέφονται σε λύσεις επιτάχυνσης που βασίζονται σε τανυστήρες-είτε ως IP σε SoC είτε ως-επιταχυντές συστήματος-για να επιτύχουν τους δευτερεύοντες χρόνους απόκρισης που απαιτούνται στην άκρη. Η πραγματικότητα είναι ότι το να ξοδεύετε έστω και ένα λεπτό ή λίγα δευτερόλεπτα για την επεξεργασία εικόνων σε ένα σύστημα όρασης δεν είναι πολύ χρήσιμο. Τα βιομηχανικά συστήματα όρασης αναζητούν ταχύτητες επεξεργασίας επιπέδου χιλιοστών του δευτερολέπτου.
Διαχωρίζοντας την εκπαίδευση και το συμπέρασμα
Η ανάπτυξη του ίδιου υλικού που χρησιμοποιείται για εκπαίδευση για τη διαχείριση φόρτου εργασίας εξαγωγής συμπερασμάτων μπορεί να έχει ως αποτέλεσμα την υπερ-προμήθεια μηχανών συμπερασμάτων με επιταχυντές και υλικό CPU. Οι λύσεις GPU που αναπτύχθηκαν για την ML την τελευταία δεκαετία δεν είναι απαραιτήτως η βέλτιστη επιλογή για-ανάπτυξη τεχνολογιών συμπερασμάτων ML σε μεγάλη κλίμακα. Το παρακάτω διάγραμμα απεικονίζει τέλεια τη σύγκριση μεταξύ επιταχυντών TPU και επιταχυντών GPU. Δείχνει ξεκάθαρα ότι οι επιταχυντές TPU προσφέρουν χαμηλότερη κατανάλωση ενέργειας, μειωμένο κόστος και υψηλότερη απόδοση σε σύγκριση με τις λύσεις AGX που βασίζονται σε GPU{5}, ενώ εξακολουθούν να παρέχουν επιτακτικά επίπεδα απόδοσης για εφαρμογές συμπερασμάτων.
Μια άλλη κρίσιμη παράμετρος όταν προσεγγίζετε λύσεις εκπαίδευσης ML και συμπερασμάτων είναι το περιβάλλον λογισμικού. Σήμερα, χρησιμοποιούνται πολυάριθμες δημοφιλείς βιβλιοθήκες, όπως η CUDA για GPU της NVIDIA, πλαίσια ML όπως το TensorFlow και το PyTorch, βελτιστοποιημένες βιβλιοθήκες μοντέλων μεταξύ{1}}πλατφορμών όπως η Keras και άλλα. Αυτά τα πακέτα εργαλείων είναι απαραίτητα για την ανάπτυξη και την εκπαίδευση μοντέλων ML, αλλά οι εφαρμογές συμπερασμάτων απαιτούν ένα διαφορετικό, μικρότερο σύνολο εργαλείων λογισμικού.
Οι εργαλειοθήκες συμπερασμάτων επικεντρώνονται σε μοντέλα που εκτελούνται σε πλατφόρμες-στόχους. Υποστηρίζουν τη μεταφορά εκπαιδευμένων μοντέλων σε πλατφόρμες, οι οποίες ενδέχεται να περιλαμβάνουν ορισμένους μετασχηματισμούς χειριστή, κβαντοποίηση και υπηρεσίες ενοποίησης κεντρικού υπολογιστή. Ωστόσο, αυτό αντιπροσωπεύει ένα σχετικά απλό σύνολο λειτουργιών σε σύγκριση με εκείνες που απαιτούνται για την ανάπτυξη και την εκπαίδευση μοντέλων.
Τα εργαλεία συμπερασμάτων επωφελούνται από την έναρξη με μια τυποποιημένη αναπαράσταση του μοντέλου. Το Open Neural Network Exchange (ONNX) είναι η τυπική μορφή για την αναπαράσταση μοντέλων ML. Όπως υποδηλώνει το όνομα, είναι ένα ανοιχτό πρότυπο που διαχειρίζεται ως έργο Linux Foundation. Τεχνολογίες όπως το ONNX επιτρέπουν την αποσύνδεση συστημάτων εκπαίδευσης και συμπερασμάτων, παρέχοντας στους προγραμματιστές την ελευθερία να επιλέγουν διαφορετικές βελτιστοποιημένες πλατφόρμες για καθεμία.
Παράδειγμα οπτικών εφαρμογών
Καθώς οι τεχνολογίες ML και επεξεργαστών συμπερασμάτων συνεχίζουν να προχωρούν και να εξελίσσονται, οι εφαρμογές πολλαπλασιάζονται. Παρακάτω είναι μερικά μόνο μέρη που μπορεί να συναντήσετε αυτήν την τεχνολογία στο μέλλον.
Διακομιστές Edge σε επιχειρήσεις όπως εργοστάσια, νοσοκομεία, καταστήματα λιανικής και χρηματοπιστωτικά ιδρύματα. Για παράδειγμα, σε βιομηχανικά περιβάλλοντα, η τεχνητή νοημοσύνη μπορεί να βοηθήσει με τη διαχείριση αποθεμάτων, τον εντοπισμό ελαττωμάτων και ακόμη και την προγνωστική συντήρηση πριν προκύψουν προβλήματα. Στο λιανικό εμπόριο, επιτρέπει λειτουργίες όπως εκτίμηση πόζας, χρησιμοποιώντας όραση υπολογιστή για τον εντοπισμό και την ανάλυση της ανθρώπινης στάσης. Τα δεδομένα από αυτήν την ανάλυση βοηθούν τους λιανοπωλητές-και{4}}τουβλάκια να κατανοήσουν καλύτερα την ανθρώπινη συμπεριφορά και την κίνηση στα καταστήματά τους, επιτρέποντάς τους να βελτιστοποιήσουν τη διάταξη των καταστημάτων για μέγιστες πωλήσεις και ικανοποίηση πελατών.
Απεικόνιση υψηλής-ακρίβειας/υψηλής- ποιότητας για εφαρμογές όπως η ρομποτική, ο βιομηχανικός αυτοματισμός/επιθεώρηση, η ιατρική απεικόνιση, η επιστημονική απεικόνιση, οι κάμερες παρακολούθησης και αναγνώρισης αντικειμένων και η φωτονική. Για παράδειγμα, οι μέθοδοι μηχανικής μάθησης έχουν αποδείξει την ικανότητα ανίχνευσης του καρκίνου με επεξεργασία ψηφιακών ακτίνων Χ-. Αυτή η διαδικασία περιλαμβάνει την ανάπτυξη ενός μοντέλου ML που έχει σχεδιαστεί για την επεξεργασία εικόνων ακτίνων Χ, συνήθως χρησιμοποιώντας εκπαιδευμένους αλγόριθμους σημασιολογικής τμηματοποίησης για τον εντοπισμό καρκινικών αλλοιώσεων. Κατά τη διάρκεια της εκπαίδευσης, εικόνες καρκίνου που εντοπίζονται από ακτινολόγους χρησιμοποιούνται για να διδάξουν στο δίκτυο τι δεν είναι καρκίνος, τι είναι καρκίνος και πώς εμφανίζονται οι διαφορετικοί τύποι καρκίνου. Όσο περισσότερο εκπαιδεύεται ένα μοντέλο ML, τόσο καλύτερο γίνεται στη μεγιστοποίηση των σωστών διαγνώσεων και στην ελαχιστοποίηση των εσφαλμένων διαγνώσεων. Αυτό σημαίνει ότι η μηχανική μάθηση βασίζεται όχι μόνο στον έξυπνο σχεδιασμό μοντέλων, αλλά εξίσου σε τεράστιες ποσότητες (δεκάδες χιλιάδες έως εκατομμύρια) προσεκτικά επιμελημένων παραδειγμάτων δεδομένων όπου ο καρκίνος έχει εντοπιστεί με εμπειρογνωμοσύνη.
Έξυπνα καλάθια αγορών-Πολλές εταιρείες αναπτύσσουν και αναπτύσσουν έξυπνα συστήματα αγορών που αναγνωρίζουν τα προϊόντα όχι από τους γραμμωτούς κώδικες UPC, αλλά από την οπτική εμφάνιση της ίδιας της συσκευασίας. Αυτή η δυνατότητα επιτρέπει στους αγοραστές να τοποθετούν απλώς αντικείμενα στο καλάθι ή στο σύστημα ολοκλήρωσης αγοράς χωρίς να χρειάζεται να εντοπίσουν τον κωδικό UPC και να τον σαρώσουν με σαρωτή λέιζερ UPC. Αυτή η τεχνολογία κάνει τη διαδικασία αγορών πιο ακριβή, ταχύτερη και πιο βολική.
Λήψη της σωστής απόφασης
Οι εταιρείες πρέπει να αξιολογήσουν όλες τις διαθέσιμες λύσεις σήμερα και να επιλέξουν τη βέλτιστη με βάση τη συγκεκριμένη περίπτωση χρήσης τους. Επίσης, δεν μπορούν απλώς να υποθέσουν ότι όλες οι λύσεις τεχνητής νοημοσύνης εφαρμόζονται καλύτερα σε συσκευές GPU, καθώς οι λύσεις που βασίζονται{1}}στο TPU προσφέρουν υψηλότερη απόδοση επεξεργασίας και χαμηλότερη χρήση πυριτίου, μειώνοντας έτσι την κατανάλωση ενέργειας και το κόστος.