Kas yra „TensorFlow Lite“ ir kaip tai yra gilus mokymosi pagrindas?

Galbūt susidūrėte su „TensorFlow Lite“ eidami per „Edge“ dirbtinio intelekto kūrimo lentas ar dirbtinio intelekto pagreitinimo projektus.

„TensorFlow Lite“ yra programinės įrangos paketų sistema, leidžianti ML mokyti vietoje techninės įrangos. Šis įrenginio apdorojimas ir skaičiavimas leidžia kūrėjams paleisti savo modelius naudojant tikslinę aparatinę įrangą. Į aparatinę įrangą įeina kūrimo plokštės, aparatūros moduliai, įterptieji ir interneto įrenginiai.

„TensorFlow Lite“ sistemos apžvalga

„TensorFlow“ yra populiarus gilaus mokymosi terminas, nes daugelis ML kūrėjų naudoja šią sistemą įvairiems naudojimo atvejams. Tai suteikia paprastą įgyvendinimą mašininio mokymosi modeliai ir išvados dėl dirbtinio intelekto taikymo.

Tačiau „TensorFlow Lite“ yra giluminis lokalių išvadų mokymosi pagrindas, ypač skirtas mažai kompiuterinei įrangai. Tai leidžia mokytis mašinoje, padedant kūrėjams paleisti jų modelius suderinamoje aparatinėje ir daiktų interneto įrenginiuose.

Kūrėjas turi pasirinkti tinkamą modelį, atsižvelgdamas į naudojimo atvejį. Ši sistema taip pat suteikia galimybę esamą modelį perkvalifikuoti ir pritaikytame duomenų rinkinyje. Kadangi „TensorFlow“ protokolo buferio modelis yra didelio dydžio ir reikalauja pažangios skaičiavimo galios, todėl jis leidžia konvertuoti „TensorFlow“ modelį į „TensorFlow Lite“ modelį.

Parametrų optimizavimo ir kiekybinio nustatymo pritaikymas leidžia sumažinti modelio dydį ir vėlavimą.

Be „TensorFlow Lite“ delsos ir dydžio pranašumų, sistema užtikrina duomenų saugumą, nes mokymai vyksta lokaliai įrenginyje. Be to, nereikia interneto ryšio. Taigi programų diegimas neapsiriboja konkrečiomis sritimis, kuriose yra ryšys.

Šie veiksniai galiausiai sumažina prietaiso energijos sąnaudas, pašalindami ryšio faktorių ir padidindami gilaus mokymosi išvadų efektyvumą.

„TensorFlow Lite“ karkaso modeliai yra įvairių platformų formato, žinomo kaip „FlatBuffers“. Tai yra serializavimo biblioteka, kurioje hierarchiniai duomenys saugomi plokščiame dvejetainiame buferyje, kad būtų galima tiesiogiai pasiekti, neišpakavus. Taip pat galite stebėti „.tflite“ plėtinį, skirtą „TensorFlow Lite“ modeliams. Ši vaizdavimo technika leidžia optimizuoti skaičiavimus ir sumažina atminties reikalavimus. Taigi, todėl daug geresnė nei „TensorFlow“ modeliuose

„TinyML“ sistemoje „TensorFlow Lite Micro“

Kadangi „TensorFlow Lite“ yra suderinamas su įvairiomis „Edge AI“ programų platformomis, reikėjo tolesnio bibliotekos suartėjimo. Taigi organizacija sukūrė „TensorFlow Lite“ pogrupio biblioteką, vadinamą „TensorFlow Lite Micro“. „TensorFlow Lite Micro“ specialiai vykdo mašininio mokymosi modelius mikrovaldikliuose vietoje, kurių minimalus atminties poreikis yra maždaug keli kilobaitai.

Pagrindinis procedūros vykdymo laikas integruojamas su „Arm Cortex M3“ su 16 KB ir gali dirbti su įvairiais modeliais. Ši sistema nereikalauja papildomo OS palaikymo ar kitų aukšto lygio kalbų bibliotekų, nes tai priklauso nuo išvadų paleidimo įrenginyje.

„TensorFlow Lite Micro“ sukūrimas yra C ++ 11, kurio suderinamumui reikalinga 32 bitų architektūra. Kalbant daugiau apie architektūras, biblioteka puikiai veikia tvirtu procesorių asortimentu, paremtu „Arm Cortex-M“ serijos architektūra, kitiems dizaino architektūros, tokios kaip ESP32.

„TensorFlow Lite“ mikro naudojimo dėklų darbo srautas

Nervinio tinklo mokymo procesui reikalinga aukšta skaičiavimo įranga. Taigi, jis mokomas generolo „TensorFlow“ modelis. Tačiau mokymai reikalingi tik tuo atveju, jei pasirinktinis duomenų rinkinys atitinka gilaus mokymosi modelį, o iš anksto parengti sistemos modeliai taip pat gali būti naudojami programoms.

Darant prielaidą, kad pasirinktinio naudojimo atvejis susijęs su konkrečios programos duomenų rinkiniu, vartotojas moko modelį bendroje „TensorFlow“ sistemoje su dideliu apdorojimo pajėgumu ir architektūra. Baigus mokymą, modelio vertinimas naudojant testavimo metodus patikrina modelio tikslumą ir patikimumą. Po to procesas konvertuojamas „TensorFlow“ modelis į aparatine įranga suderinamą „TensorFlow Lite“ modelį .tflite formatu.

.Tflite formatas yra plokščias buferinis failas, bendras „TensorFlow Lite“ sistemai ir suderinamai aparatinei įrangai. Modelis taip pat gali būti naudojamas išvadų mokymams apie realiuoju laiku gautus duomenis. Išvadų mokymai optimizavo modelius tvirto naudojimo atvejais. Taigi, pranašumų mokymas yra labai svarbus AI taikymai.

Dauguma mikrovaldiklio programinės aparatinės įrangos nepalaiko natūraliosios failų sistemos tiesiogiai įterpiant plokščio „TensorFlow Lite“ modelio buferio formatą. Taigi, .tflite failą reikia konvertuoti į masyvo struktūros formatą, suderinamą su mikrovaldikliais.

Programos įtraukimas į C masyvą ir normalus kompiliavimas yra lengva tokio perskaičiavimo technika. Gautas formatas veikia kaip šaltinio failas ir susideda iš simbolių masyvo, suderinamo su mikrovaldikliais.

Prietaisai, palaikantys „TensorFlow Lite Micro“

„TensorFlow Lite“ tinka galingiems įrenginiams, tačiau jis turi didesnio procesoriaus darbo krūvio trūkumą. Nors „TensorFlow Lite Micro“ turi mažo dydžio failus, kurie gali būti netinkami, optimizuojant failo dydį telpa atmintyje, gali žymiai pagerinti mažos galios ir mažai apdorojančios įrangos, pvz., išvestį mikrovaldikliai.

Čia pateikiamas oficialių „TensorFlow“ dokumentų, kuriuose palaikoma „TensorFlow Lite Micro“, kūrimo lentų sąrašas:

• „Arduino Nano 33 BLE Sense“
• „SparkFun Edge“
• STM32F746 „Discovery“ rinkinys
• „Adafruit EdgeBadge“
• „Adafruit TensorFlow Lite“ mikrovaldiklių rinkinys
• „Adafruit Circuit“ žaidimų aikštelė „Bluefruit“
• Espressif ESP32-DevKitC
• Espressif ESP-EYE
• „Wio“ terminalas: ATSAMD51
• „Himax WE-I Plus EVB Endpoint AI Development Board“

„TensorFlow Lite Micro“ taip pat yra kaip „Arduino“ biblioteka, skirta išplėsti mikrovaldiklių palaikymą. Jis taip pat gali kurti aparatūros kūrimo aplinkos projektus, panašius į „Mbed“.

„TensorFlow Lite“ siūlo daug

„TensorFlow Lite“ giluminio mokymosi sistema atveria galimybes daugeliui pažangiausių dirbtinio intelekto programų. Kadangi sistema yra atviro kodo intelekto mėgėjams, bendruomenės parama ją dar labiau išpopuliarina mašininio mokymosi naudojimo atvejais. Bendra „TensorFlow Lite“ platforma pagerina įterptųjų ir interneto įrenginių pažangiausių programų augimo aplinką

Be to, yra įvairių pavyzdžių pradedantiesiems, kurie gali padėti jiems praktiškai naudotis sistemoje. Kai kurie iš šių pavyzdžių apima asmens aptikimą, atsižvelgiant į duomenis, kuriuos surinko kūrimo plokštės vaizdo jutiklis, ir standartinę „Hello world“ programą, skirtą visoms kūrimo plokštėms. Pavyzdžiai taip pat apima programas, tokias kaip gestų aptikimas ir kalbos atpažinimas, taip pat konkrečiose kūrimo lentose.

Norėdami gauti daugiau informacijos apie „TensorFlow Lite“ ir „TensorFlow Lite Micro“, galite apsilankyti oficialiame organizacijos dokumentacijos puslapyje. Norint geriau suprasti sistemą, yra daugybė koncepcinių ir mokomųjų skyrių.

Pradėkite atpažinti vaizdus naudodami „TensorFlow“ ir „Raspberry Pi“

Norite susitvarkyti su atpažinimo vaizdais? „Tensorflow“ ir „Raspberry Pi“ dėka galite pradėti iš karto.

Skaitykite toliau

Apie autorių