Intelligente IoT edge-løsninger kan anvendes alle steder, hvor der bliver genereret data. Udviklingen af AI- og 5G-teknologier har givet så betydelige fremskridt, at edge computing i dag er langt mere fleksibel, intelligent og konnekteret
Artiklen har været bragt i Aktuel Elektronik nr. 6 – 2024 og kan læses herunder uden illustrationer
(læs originaludgaven her)
Af Jash Bansidhar, managing director, Advantech Europe
AI kan transformere enhver moderne forretning, der vil skrue op for automationen især gennem sin support af fremtidige teknologibaserede faktorer som edge computing, 5G og cybersikkerhed. Udviklingen bevæger sig yderligere i retning af AIoT (Artificial Intelligence of Things) og edge AI, der ikke kun er morgendagens strategier. De er her allerede – i hvert fald hvad angår supporten fra teknologiske eksperter og partnere og et udvalg af produkter, som bidrager til at opnå det ønskede automations- og AI-niveau.
Intelligente IoT edge-løsninger kan anvendes alle steder, hvor der bliver genereret data. Det kunne inkludere fabrikker eller lagre, der vil automatisere driften eller de stadigt mere udbredte selv-checkouts i detailhandlen. Det kunne også være en transportvirksomhed, som vil automatisere sin flådestyring eller et smart city-scenarie, hvor parkering eller trafikflow skal optimeres.
Udviklingen af AI- og 5G-teknologier har givet så betydelige fremskridt, at edge computing i dag er langt mere fleksibel, intelligent og konnekteret. Her kan anvendelse af løsninger, som inkluderer AI, domænefokuseret software, trådløs konnektivitet og cloud-integration lette brugen af de alsidige AIoT-applikationer i bredere forstand i retning af smarte industri- og smart city brugercases. Interessen for AI-baseret edge computing er efterhånden så høj, at en rapport fra Gartner indikerer, at edge-markedet – inklusive hardware, software og services – vil få en værdi af imponerende 450 milliarder USD allerede i 2025.
Edge computing og AI, en kombination også kendt som edge AI, giver en række fordele for flere industrier med de inkluderede højtydende databehandlingsegenskaber, avancerede muligheder for visuel analyse og bedre systemstyring, der kan booste de nøgleparametre, som er så væsentlige for udviklingen af mange forretningstyper.
Sikkerhed frem for tårer
Den løbende udvikling af edge AI vil fortsat generere nye value-added services, fremstillingsprocesser og applikationer på mange måder. Udviklingen vil dog kun være en succes, hvis den bliver fulgt op af de højeste cybersikkerhedsniveauer. Hvor produkter bliver sluttet til internettet, skal man uundgåeligt forvente cybertrusler, uanset om det drejer sig om IT eller OT (Operativ Teknologi).
Beskyttelse under den digitale transformation med øget cybersikkerhed vil for de fleste applikationers tilfælde kræve en grundig undersøgelse af alle dele af systeminfrastrukturen. Generelt vil de typiske angrebspunkter i cybersikkerhedens økosystem være inden for gateways, primært fordi de spiller så væsentlig en rolle i dataopsamling. Ved at implementere gateway-sikkerhed i edgen som en prioritet bliver det muligt at garantere data- og systemsikkerhed, identitets- og adgangskontrol samt detektering af trusler og recovery efter et angrebsforsøg.
Speed-snakkere
Advantech ser real-time kommunikation som endnu en faktor bag succesen for AIoT og edge AI. Den hastige udbredelse af IoT-produkter i smarte fabrikker og cities genererer enorme datamængder på meget kort tid, hvilket er en udfordring for traditionelle cloud-computermodeller, som i givet fald skulle håndtere disse kritiske datamængder.
Svaret ligger i udformningen af 5G edge computing med et setup tæt på slutproduktet. Faktorer som høje throughput-hastigheder, stor båndbredde og ultralav latency betyder, at 5G edge computing kan omfatte et højt antal konnekterede produkter og brugere mellem netværket og computermiljøet med samtidige pålidelige beregnings- og lagringsmuligheder. Brugerne har glæde af en mindre brug af netværkets båndbredde, korte responstider og lav latency. 5G edge computing er derfor en nøglekomponent, hvis man skal opnå AIoT.
Implementering af AI i edgen
Hvis AI i edgen lyder udfordrende, så er det nu ikke nødvendigvis tilfældet. Mange designere af AIoT-løsninger til smart industry- og smart city-formål er gode til at træne AI-modeller – og de kender selvfølgelig deres egne domæner og/eller industrier – men de kæmper ofte med at køre AI-modellerne i edge-komponenter som industrielle pc’er.
Det er så hér, at en god partner virkelig giver mening. En troværdig AIoT-partner inden for automationsteknologi vil have såvel processer som værktøjs-kits til at realisere en hurtig og effektiv cloud-to-edge AI-implementering og monitering. Der er for nuværende et ”gab” mellem træning af ML (Machine Learning)-modellen og den praktiske anvendelse i edgen. Der findes allerede masser af modeller til træning af AI/ML-modeller lokalt på en pc eller server, men mange domæneeksperter har ikke den nødvendige viden – eller tid endsige supportteam – til at udføre denne opgave. I disse tilfælde kan de med fordel rette opmærksomheden mod AI/ML-ressourcer i clouden. Men hvad derefter? Hvordan kan en virksomhed bruge den trænede model i sine edge-produkter?
Slå bro over gabet
En egnet apparat management-platform er en bekvem og effektiv måde at slå bro over gabet mellem model og virkelighed på: En højt kvalificeret apparat management-platform kan hjælpe til at fjernmonitere over 10.000 apparater med real-time overvågning og notifikation. Et sådant værktøj kan ligge på en cloud-platform som Microsoft Azure og kan også hjælpe til at implementere AI-modeller på stort skalerede applikationer som eksempelvis overvågning af containerflåder.
Der er grundlæggende to slags AI-systemer, nemlig træning og inferens. Træningssystemer analyserer datasæt og deres resultater for derefter at generere en beslutningstagende algoritme. For større datasæt kan man skalere træningssystemer via servere, cloudcomputer-ressourcer eller supercomputere. De kan også bruge dage eller uger til dataanalyse, uden at det gør noget.
Inferens er mindre computerintensivt end træning, så inferens har brug for en effektiv AI-acceleration for hurtigt at opnå resultater og holde trit med indkommende data. En typisk løsning inden for acceleration er brugen af GPU-kerner (grafik) takket være fælles programmeringsværktøjer en høj ydelse og et robust økosystem.
Ved at parre edge computing med AI-inferens opnår man betydelige fordele. For eksempel kan man skalere AI-inferensapplikationer meget effektivt med tilføjelse af mindre platforme, mens alle forbedringer opnået med inferens kan uploades og anvendes gennem et helt system af noder. Hvis det er muligt for en edge AI-inferensplatform at accelerere hele applikations-stacken med dataindføring, inferens, lokal styring, konnektivitet med mere, kan det give et massivt potentiale for systemarkitekterne.
Real-world eksempel
For at slutte af med et eksempel på brug af AI i edgen, så kunne det være en fabrik, der skal tjekke en bakke med forskellige typer af komponenter til et byggesæt. Ved at kombinere en højeffektiv device management-platform med en egnet SOM (System-on-Module)-teknologi, bliver det ikke bare muligt at identificere, hvilke komponenter der er til stede på bakken, men også at give brugerne muligheder for fuld rapportering.
Med en optimal device management-platform er der ikke længere behov for en modeltræning af selve modulet. Brugerne kan udføre træning on-cloud, on-premise eller via deres egen infrastruktur. Desuden går det hurtigt fra minutter til maksimalt to timer afhængigt af modellen. Efter modeltræning kan brugerne konvertere formatet for let implementering i en hvilken som helst edge-maskine på fabriksgulvet – eller tusindvis af konnekterede devices.
Målet er i det aktuelle eksempel at tjekke, om bakken indeholder de rigtige typer og mængder af komponenter. Når det er verificeret, så flyttes inferensdata til cloud-serveren bag device management-platformen, så brugerne kan udtrække værdier fra de uploadede data.
Edge-AI i kombination med IoT-teknologi, 5G edge computing og de nyeste cybersikkerhedsløsninger redefinerer hele industrier gennem smarte applikationer. Skiftet mod AI-inferens i edgen, tættere på styringselementerne og sensorerne øger responsen og reducerer latency. Et produkt som Advantechs kompakte AIR-020 edge AI-system er baseret på NVIDIA Jetson SOM’er og bruger Advantechs DeviceOn device-management-platform. Systemet giver mulighed for rapportering af inferensdata i real-time, ligesom over-the-air (OTA) opdatering gør det muligt at anvende produktionsmodnede AI-inferensmodeller. Det er alt andet lige et område, hvor Advantech er på forkant af mulighederne inden for smart industry og smart cities gennem maksimering af de muligheder, som IoT/AI-konvergensen giver.
Billedtekst:
Advantech Europes direktør, Jash Bansidhar, fortæller, hvordan Advantechs løsninger inden for AI-træning og -inferens giver mulighed for AIoT- og edge AI-løsninger til fremtidige smarte løsninger inden for såvel industri som smart cities.
