MI az az adatmérgezés és hogyan védekezzünk ellene? A 2% problémája

Na de hogy érint minket az adatmérgezés?

Egy nem is olyan régen megtörtént eset:

Anno 2016, a Microsoft büszkén veti a nép elé az új chatbotot és várja a reakciókat.
Azonnal több 1000 ember repül rá és faggatják, beszélnek hozzá, illetve beszéltetik is.

Nagyjából 5 óra leforgása alatt az első kedvesnek tűnő chatbot egy arrogáns
diktátor stílusában kezd értekezni a világról és súlyos véleményt alkot a benne lévő emberekről is.

A Microsoft összehívja a válságstábot, majd dönt: azonnal lekapcsolják a rendszert és visszavonulót fújnak.

No de mi történt pontosan? A válasz: ADATMÉRGEZÉS!

Adatmérgezés

A CHATBOT a gmail levelezéseken edződött és azzal tanították az életszerű társalgásra.
Viszont erről valakik tudomást szereztek (ehhez belső ember is kellett) és azokra az email címekre, – amit a szoftver is figyelt és tanult – nagy mennyiségben kezdtek küldeni uszító és szélsőséges levelek sokaságát.

Ezzel gyakorlatilag “megmérgezték” szándékosan a tanító adatokat a háttérben.

Csak gondolj bele:ha egy AI alapú szoftvert 10.000 kutya képével arra tanítok, hogy ismerje fel a kutyákat a jövőben, akkor kb. 82%-os valószínűséggel meg is fogja tenni azt szinte bármilyen ebet is lát (2024 Q2 adat)

Ám ha csak 2%-a (!) ezeknek a kutya képeknek macskát tartalmaz, máris ez a kutya felismerő képesség 68%-ra csökken!

A mesterséges intelligencia (MI) adatmérgezés egy igen alattomos támadás az MI rendszerek ellen, ahol rosszindulatú szereplők meghamisítják a tanító adatokat a háttérben.

Olyan, mintha rossz információval etetnénk egy tanulási modellt, ami eltorzítja a döntéshozó képességét.

Íme egy áttekintés, hogy mit jelent az adatmérgezés az MI-ben.

Hogyan működik:

 A támadók becsempésznek szennyezett adatokat: Ez magában foglalhat új
adatok bevezetését, vagy meglévők módosítását vagy akár fontos adatok
törlését is.

 Az MI modell be van csapva: A mérgezett tanító adatok elfogyasztásával a
modell hibás mintákat és torzításokat tanul meg. Pl: “vezető pozícióba csak fehér férfi kerülhet” – ez valós példa.

 Rossz döntések: Amikor az MI később előrejelzéseket vagy döntéseket hoz,
azok a mérgezett adatok alapján akár erősen torzulnak.

A támadások típusai:

 Elérhetőségi támadások: Ezek arra irányulnak, hogy az egész MI modellt
összeomlasszák azzal, hogy szemét információval etetik, ami pontatlan
kimenetelekhez vezet. A rendszer használhatatlan lesz.

 Célzott támadások: Itt a támadók gondosan befecskendeznek bizonyos
adatokat, hogy a modell kimenetelét egy bizonyos módon manipulálják,
például kockázatos hitelfelvevőknek adnak jóváhagyást.

Védekezés az adatmérgezés ellen:

 Tanítás előtt/közben: A tanító adatok forrásának és pontosságának biztosítása

 Működés közben: Az MI modell teljesítményének folyamatos monitorozása a
hirtelen változások vagy torzítások észlelésére utalhat adatmérgezésre.

 

Ha ötleted vagy kérdésed van – nem csak a profilozással kapcsolatban, itt megtalálsz: pedro@amtech.hu

Szekrényi Péter – Pedro
tulajdonos, IT mérnök
AMtech Rendszerház
www.amtech.hu

Tanulj Pedrotol

Ha több tech tartalmú cikket olvasnál itt megteheted:
Az AI 5 felhasználási területe

Szélcsendben kell vitorlát varrni – 3 digitális tipp

3 digitális tipp

Ebben a cikkben 3 digitális tippet szeretnénk adni a gazdasági élet szereplőinek, akik rá vannak kényszerítve a „szélcsendre„.
A minap kaptunk egy telefonhívást, majd még kettő(!) nagyon hasonlót.
„Üdvözlöm, xz cégtől vagyunk és igen, van munkánk, bár kevesebb. Tartalékunk is van, átvészeljük tehát ezt az időszakot. Amíg viszont kevesebb a munkánk, fejlődnünk kell. S mikor ha nem most, amikor időnk is van rá?”

A beszélgetés végére nagy egyetértésben összeszedtünk

3 digitális tippet

1, segíteni fogják a kollégáik beilleszkedését a bűvös home office légkörbe, leginkább azzal, hogy közösen hoznak majd új irányelveket, a többiek által kipróbált és bevált gyakorlatokat pedig megosztják egymással hetente egy belső Zoom meetingen. Mindezt egy közös tárhelyen teszik elérhetővé és jól kereshetővé. Vegyük észre, hogy ez azért nagyban eltér az „itt a gép és holnaptól ugyanezt csinálod csak otthonról” utasítástól. Sőt a vezetők meg fogják kérdezni a kollégákat, hogy miként lehetne szerethetőbb a munkájuk – eddig ilyen nem volt..

Ezt nevezhetjük a vállalati kultúra alapjainak és ugye milyen gyorsan megvalósítható?

2, kiderült, hogy van a vezetők fejében már pár új ötlet, amire -mivel igen jól ment a cég- valahogy „sosem volt idő”…
Én javasoltam, hogy a kollégákat is bíztassák e téren és kérjék ki az újító véleményüket, de addig is valósítsák meg azokat a korábbi elfekvő ötleteket és vezessenek be új terméket, illetve szolgáltatást!

Ezek tehát fejben már készen voltak, megvalósításra vártak csupán, kicsit leporolják, „digitalizálják”, hogy 100%-ban napra kész legyen és mehet is.
Itt fontos a sebesség, tehát ne üljünk az ötlet felett, hanem ültessük át a gyakorlatba, majd a célközönségünk eldönti mennyire jó. S persze ez alapján fejleszthetjük is tovább (ez a Blitzscaling, vagy Fastscaling módszer)

Itt majd 3 dolgot vegyünk figyelembe:
I. minden új termék csak annyira jó, ahány embernek segít
II. ..és ahány emberhez el tudjuk juttatni (tehát csináljunk hozzá rövid, jópofa tájékoztató videókat és rendszeresen blogoljunk, posztoljunk róla, hírdessük)
III. lehetőleg NE úgy gondoljunk ezekre az új termékekre, mint átmeneti megoldás, hanem legyen az egy végleges termékünk, amit akkor is megtartunk majd, amikor kifele megyünk ebből a krízisből.

3, Szükség lesz egy web alapú, okos ERP rendszerre, s egy bérelhető home office konstrukcióra, amivel az egész céget átláthatóan lehet koordinálni és a munka nem utálatosabb lesz, hanem valószínűleg inkább modernebb és támogatóbb.

Egy kis kiegészítés: Magyarország a digitális fejlettségi lista végén kullog, valahol a nem túl előkelő 15-18. hely között. A cég többsége 8-10 éve bevezetett, s végletekig továbbfejlesztett rendszert használ, ami felett bizony már évekkel ezelőtt eljárt az idő (kb. 5 év az ERP rendszerek életciklusa).
Kis túlzással mindez egy sarokba dobott és túlterhelt szerveren fut, pár gigászi Excel tábla jóleső társaságában – ezt ügyfelünk is átérezte 🙂

Itt az idő, hogy új, a cég minden területét lefedő, majd kifejezetten a cégre készülő, nem dobozos szoftvert vezessünk be. Ehhez persze legalább 3-5 hónapra lesz szükség, ám a lényegi funkciók már az első 2 hónapban elkészülnek. Hogy drága lesz? Valóban pár milliót áldozni kell rá. Pont.
Ezen nincs mit indokolni, vagy tovább magyarázni.

A 3 digitális tipp után, ami közel 1 órát vett igénybe, így foglalta össze az ügyfelünk a végén:” hát igen, tényleg szélcsendben kell vitorlát varrni” – ha megtehetjük.

További tippek, trükkök, érdekességek videók formájában ITT.

5 szempont, amiért érdemes megfontolni a vállalatirányítási rendszer bevezetését

Mikrovállalkozások esetében kezdetben talán nem egy vállalatirányítási rendszer bevezetése a súlyponti kérdés, hiszen ahogy a közmondás is mondja:

„Magad uram, ha szolgád nincsen!”

De! Szeretnéd, ha így maradna? … Idővel, ha ügyesen csinálod, a vállalkozásod elkezd terjeszkedni, növekedni, és rájössz, hogy folyamatok erdején kell rajtatartanod a szemed, és  seregnyi feladatot kell összehangolnod – egyedül. Elkerülhetetlen lesz, hogy növeld a munkatársak létszámát, és szükséged lesz egy rendszerre, ahol mindenki ugyanazon platformon dolgozik.

„Hányan dolgoznak ebben az irodában?” – „A főnökkel együtt 11-en” – „Tehát a főnök nélkül 10-en?” – „Nem, mert ha a főnök nincs itt, akkor senki sem dolgozik.”

Ez az a perc, amikor érdemes mérlegelni egy vállalatirányítási rendszer bevezetését.

A jó vállalatirányítási rendszer felszabadít
A vállalatirányítási rendszer egyszerűvé teszi a cégvezeést

Mi is voltaképp az ERP vagy más néven a vállalatirányítási rendszer?

Angolul az ERP, vagyis vállalati erőforrás-tervezés, hajszálpontosan azt jelenti, ahogy hangzik: ha ezt használod, a vállalkozásod tevékenységei összehangolódnak.

Az ERP biztosítja, hogy a vállalkozásod minden szinten képes integrálódni – az értékesítéstől kezdve az ügyfelek megrendeléseinek átvételétől az ellátási lánc kezeléséig, a költségekig, a költségvetésig és a tervezésig. A vállalatirányítási platform egyesíti a teljes szervezetet – ideértve a marketinget és az értékesítést, valamint a terméktervezést és gyártást is. Ez egy olyan módszer, amellyel felülről, mint térképre ránézhetsz a cégedre, és a folyamatokat, teendőket úgy tudod elrendezni, hogy a központi adatbázisban, egy helyen tárolt adatok azonnal egyértelműen kiolvashatók minden részleg számára. Egyidejűleg közvetlen visszacsatolást fogsz kapni, így azonnal tudsz reagálni.

A kapott adatok alapján azonosítani tudod a folyamatok azon elemeit, amelyek a legproduktívabbak illetve amelyek hatékonyságán korrigálni kell. Az ERP nemcsak a belső munkatársak, hanem az ügyfelek és partnerek számára is utat enged az adatok valós időben történő megtekintésére, ezáltal is szorosabbra fűzve velük kapcsolatokat.

És akkor, lássuk a vállalatirányítási rendszer előnyeit …

Ha egyedi igényeket kiszolgáló, fejlesztett rendszert használsz, az pont úgy funkcionál, ahogy azt elképzelted, és szeretnéd. Segítség az üzleti terved megvalósításában, és átveszi a napi rutin aprólékos elemeinek végrehajtását. Így tudsz rengeteg időt, vesződséget megspórolni, ráadásul a hibák számát redukálni.

Számtalan cégvezető nem is gondolná, hogy mennyire előnyös az ERP használata a vállalkozás növekedésével. Íme néhány szempont, amellyel az egyedi vállalatirányítási rendszer elősegítheti vállalkozásod produktívabb működését:

Figyelemmel kíséri a rendelkezésre álló erőforrások változását. Tudod-e mindig pontosan, hogy mennyi pénz, alapanyag, munkaerő vagy gyártási kapacitás áll rendelkezésedre? Mivel, ezeket az erőtartalékokat használod fel a cég működésének fenntartásához, állandóan biztosnak kell lenned abban, hogy ezekből elegendő mennyiséget tudsz használni a terveid megvalósításához.

Összehangolja az erőforrásokat a kötelezettségvállalásokkal. Vajon elegendő-e a termelési kapacitás vagy a megrendelt áru ahhoz, hogy lehessen tartani a vállalt értékesítési mennyiséget? Egy ideális ERP rendszer segít összehangolni erőforrásokat a kötelezettségvállalásokkal, és előrejelzésekkel lehetővé teszi a késlekedés nélküli tervmódosítását, így már kezdetektől azonnal reagálhatsz a vevői igények változására.

Elemzi a fogyasztói viselkedést. Az ERP rendszerek a fogyasztói adatok elemzésére is alkalmasak. Ez lehetővé teszi, hogy lásd, mi az, ami hatékonyan működik, milyen területen várható áttörés a közeljövőben, és mit tehetsz a nagyobb piaci rész megszerzése érdekében.

Kezeli az információáramlást. Az információ az egyik legfontosabb tényező napjaink rohanó üzleti világában. Vajon megfelelően kommunikálnak-e a részlegek? Az ERP folyamatai biztosítják, hogy mindenki hozzáférjen a számára értékes adatokhoz a megfelelő időben – mindezt központi adatforrásból.

Maximalizálja a rendelkezésre álló időt. A vállalati erőforrás-tervezés célja egy olyan rendszer bevezetése, amely segít az idő maximalizálásában, hogy a vállalkozás a lehető leghatékonyabban időveszteség nélkül tudjon működni. Tökéletes módszer az egyes részfeladatok és folyamatok automatizálására, így Te magad és munkatársaid is koncentrálhattok a fontosabb kérdésekre, amelyek nagyobb ráhatással lehetnek az vállalkozás produktivitására.

Egy vállalatirányítási rendszer eredményessége, messze felülmúlja a bevezetésre fordított költséget, erőfeszítést, időt. … Egy feltétellel! … Ha könnyedén használható, és úgy működik, ahogy elvárjuk tőle. … És ezt hogyan érhető el? … úgy, hogy a cégedre fejlesztjük.

Pont úgy, ahogy elképzelted.

A szobafestő először viszi magával a tanoncát gyakorlatra.
– Először fesd be az ablakokat – hangzik az utasítás.
Másfél óra múlva jön a tanonc:
– Kész! A kereteket is befessem?

Ha még lennének kérdéseid ide tudsz írni: 

Jelinek Andor - újgenerációs ERP specialista
jelinek.andor@amtech.hu

Az Üveghegyi Konferencia

Egyszer volt, hol nem volt, hetedhét országon is túl, ott, ahol a kurtafarkú malac túr, élt két ügyvezető igazgató. 

Az egyik éjjel-nappal gürcölt, látástól vakulásig dolgozott, ráncainak se szeri se száma, mindig hajlott háttal sietősen közlekedett. Rabul ejtette az Excel-táblák gonosz sárkánya. Rabszolgaként bújta a táblázatok képleteit éjszakákon keresztül, nem sikerült olyan adatokat kinyernie, amire vágyott. 

A másik ügyvezető a napsütötte teraszon iszogatta kedvenc koktélját, közben rákattintott mobilapplikációjára, s máris tiszta képet nyert cége helyzetéről. Otthonról végezte munkáját, s mégis pontosan tudta mi történik az irodában. Ezért mindig volt ideje családjára, s arra is, hogy időnként elutazzanak az Óperenciás-tenger mellett fekvő nyaralójukba.

Történt egyszer, hogy hogy nem, egyfele vitt üzleti útjuk, s találkoztak az Amtech Rendszerház szervezte Üveghegyi Konferencián. (A gazdag ember előadóként, a szegény, pedig, hogy tanuljon) Az esti üzleti vacsorán egymás mellett ültek, s már nagyon meg is éhültek Meghányták vettették ügyes-bajos dolgaikat, kinek mit sodort elejibe az élet.


– Szervusz öreg barátom! Hogy, s mint mennek dolgaid? Megviseltnek látszol.

– Hajjaj, drága földim – sopánkodott a másik – dolgozom éjjel-nappal az irodámban, görnyedek a számítógép felett, öntöm magamba a töméntelen kávét, nappal-lótok-futok. mégsem jutok ötről hatra. Eljöttem erre a konferenciára, mert én magam sem látom, hogy fordíthatnám életemet jobbra.

– Ne hímezz-hámozz cimborám. Nagy bánat nyomhatja szívedet. Mi a baj?

– Nem hiszem, hogy az én bajomon segíteni tudnál!

A cimbora csak húzódozik, felelet helyett nagyokat hümmöget, s keservében a belehörpint kávéjába – még várja a munka vacsora után-, fejét vakarja.

Látja ám a barát, hogy a másik nemcsak mórikálja magát. Mit volt mit tenni, mondandójával kéretlenül immár, azonnal a dolgok közepibe vág, s váltig faggatni kezdi.

– Legelébb azt mondd meg, milyen a céged pénzügyi helyzete? 

– Nem tudom, nem látom át pontosan, nincsenek naprakész pontos kimutatásaim – mondja csüggedten.

S ekkor már felderül amaz arca. Helyben vagyunk!  – gondolja. 

 – Hogy állsz az ügyfelekkel? Fizetnek-e a vevőid? Tudod-e, kik a legjobb ügyfeleid? 

– Nincsenek erről statisztikáim, ráadásul ügyfélkezelő rendszer integrálása sincs megoldva – válaszolja lehorgasztott fejjel.

A barátnak szemmel láthatóan egyre vidorabb kedve kerekedett. S ahogy neki egyre vidorabb kedve kerekedett, a másik annál jobban elszontyolodott.

– Milyen a munkatársaid hatékonysága? Sokat hibáznak? Mennyi időt kell tölteni a hibák kijavításával? – kutakodik tovább, egyre nehezebben türtőztetve magát.

– Ennek mérésére végképp nincs eszközöm – búslakodik erőst.

– És, mondd, átlátod a munkafolyamataidat? – érdeklődik somolygós tekintettel.

–  Hjaj, barátom, én most már egész életemben arra vagyok kárhoztatva, hogy ezekkel a problémákkal küzdjek, nincs szerencsém, kutyaszorítóban vagyok. Nem találom meg a jó vevőket, nincs munkatársam, aki helyettem dolgozna, éjt nappalá téve ülök a gép előtt, hogy valami használható adatot kinyerjek a régi elavult adatbázisokból. Mit javasolsz mitévő legyek? – fogta immár rimánkodásra a dolgot.

– Van jó vállalatirányítási szoftvered?

– Attól félek, ha veszek egy szoftvert, még azt is meg kell tanulnom, hogyan működik, és nem is biztos, hogy pont úgy működik, ahogy szeretném, még nagyobb kavarodás lesz a cégemben.

– Valóban így van a dobozos szoftverek esetében. Neked kell alkalmazkodni a szoftver filozófiájához és mire a toldozás-foltozásnak vége, hogy valamennyire úgy működjön, ahogy szeretnéd, már annyi pénzt és energiát belefektettél, hogy azt is megbánod, hogy belekezdtél.

– Valóban? És mit javasolsz, mitévő legyek?

– Úgy látom, a problémád összetettebb. A céged egyedi, csak te tudod mit szeretnél, hogyan működjön, ezt ne feledd! Ha úgy gondolod, hogy felkészültél a változásra, javaslom tedd, amit én valaha annak idején. Van, aki segítsen neked. Miután átgondoltad és összeírtad üzleti folyamataidat, kerekedj fel és keresed meg az Amtech Rendszerházat. Ott várni fog egy szakértő. Mondd el neki részletesen, mit szeretnél és hagyd, hogy kinyíljon körötted a világ. Pont úgy, ahogy elképzelted. Ne félj! A szoftver tökéletesen fog illeszkedni a folyamataidhoz. Adataid egy közös helyen lesznek, tüstént lekérdezhetően. Gyors lesz az információáramlás, mint a gondolat, a céged minden részlege között. És mint egy térkép rálátsz a céged működésére, akár pihenés közben is, a világ másik feléről is.

No, lett erre nagy öröm!

 – Immáron köszönöm a jótanácsot, rögvest meg is fogadom!
 – Hát akkor, édes egy komám, viszlát az Óperenciás-tenger partján!

És még valami …  Ha bárhol elakadnál ITT tudsz üzenni nekem

És még hasznos tudnivalók, amik segítenek az úton:

Rólunk mondták ( ügyfél videók)

Digitális Transzformáció VLOG: (rövid videók a digitális transzformációról)

Egyedi szoftverekről őszintén

Tekintve, hogy aktívan ezzel foglalkozunk, pontosan látjuk, hogy melyek a legnagyobb problémák és egyben félelmek ügyfeleink szemében az egyedileg fejlesztett szoftver rendszerekkel kapcsolatban.

Mindössze 2 szó! Nem kipróbált. Más szóval nem lehet előre megnézni, kipróbálni, „játszani” vele és megbizonyosodni arról, hogy tényleg nem kidobott pénz és idő pazarlás lesz az egész folyamat.

Mi mindenképp azt javasoljuk, hogy 2 felé bontsuk a szerződést (és a kifizetést is). Tehát válasszuk el egymástól élesen a felmérés és a fejlesztés-bevezetés szakaszt. Így már idejekorán láthatunk egy előzetes vázat a programból és tömör leírást, amiből az is kitűnik, hogy értjük-e egymást a bevezetést végző céggel, tetszik-e a tervezett kezelőfelület, megvannak-e a főbb funkciók, amiket kötelezően elvárunk.

Ha nem, itt még szinte fájdalom mentesen hagyhatjuk abba, s ha meg igen, akkor pedig nyugodtabban alszunk, hogy jó kezekben vagyunk 🙂

Aktuális IT trendek zanzásítva

A minap az alábbi beszélgetésnek voltam fültanúja:

…oké, de az IOT már mindenütt ott van, az okos óvszertől az okos kávéfőzőig…

És vicces, mert 2 hölgy beszélgetett minderről 🙂

Egyébként igaz. A listát nagyban vezeti az IoT, ami a netre kapcsolt (valamire jó) okos eszközök gyűjtőfogalma. Itt most leginkább azon megy a harc, hogy mit lehetne még eképp okosítani, illetve lassan elgondolkodunk a (hiányzó) biztonságtechnikai odalán is a dolognak. Most hogy 2x annyi ilyen eszköz van, mint ember.

Tovább fejlődik és komolyodik a 3d nyomtatás módszere, amivel már 2 emeletes házat is lehet “nyomtatni”.

Business intelligence, ami lassan nem csak adatokat rendszerez és tényszerűen elénk tárja,hanem a következtetéseken és trendek felállításán túl, már akár stratégiai döntésekre vonatkozólag is tehet javaslatot. Sőt megindokolja a javaslatot és mindebből folyamatosan tanul is persze (ez a verzió azért még nem elterjedt).

Mesterséges intelligencia. Fülünkön jön már ki, nagyon keményen dolgozik rajta az emberiség, az biztos. A haladás és drasztikus fejlődés igen rövid távon (5 év) belül is érzékelhető lesz.

Robotok – cél, hogy minél többet vegyenek át tőlünk, s maradnak a kevésbé gépesíthető munkák nekünk embereknek még jó ideig.

Önvezető autók – ezek is csodálatosak, s bár még fogni kell a Tesla legújabb modeljében is a kormányt, nincs messze, amikor jó minőségű utakon (felfestéssel) tényleg az autóra bízhatjuk magunkat.

Felhő alapú szolgáltatásokról is sokat hallani, végre úgy néz ki Magyarországon is nő a bizalom ez irányba. Korábban 10 ügyfélből cask kettő vállalta be, most megfordulni látszik az arány, kevésbé félünk a lehallgatnak/meglopnak/megzsarolnak hármastól.

VR, AR, MR és AV. Szinte örök sláger és időről időre fel-fel bukkan. Rétegtermék, nagyon úgy tűnik, hogy egyelőre inkább a játékipar próbál profitálni belőle. Épphogy felkerült az aktuális listánkra.

IT trends 2017

2017 nyár végi aktualitások

3 érv a felhő alapú ERP-k mellett

1. A felhő alapú ERP rendszerek valóban megreformálják a céget

mert a programot amivel cégünket irányítjuk, bárhonnan elérhetjük, s mindezt különösebb technikai hozzáértés és saját IT-s részleg nélkül tehetjük meg.

2. A felhős rendszerek segítségével végre kizárólag azzal foglalkozhatunk, amihez értünk

sokunkra igaz, hogy nem igazán értünk az IT-hoz, igaz? Miért is kéne nekünk feltalálni a kereket? Foglalkozzon vele az, aki ért hozzá, s akinek ez a szakmája. Mi pedig nyugodtan tudjuk azt csinálni, amiért a céget létrehoztuk, amiben jók vagyunk.

3. A felhőnek a biztonsága kockázata igen csekély

az irányítás elvesztésétől való félelem a „legközkedveltebb” indok, amiért nem ezt a megoldást választják a cégek. Ugyanakkor gondoljunk csak bele: a cég, akinél a programunk és adataink vannak („a felhő szolgáltató”) sokkal többet veszíthet, mint mi, hisz sokaknak szolgáltat. Ergo többet tesz a biztonságért mi mint valaha is tudnánk, vagy akarnánk.

Modern ERP a felhőben

/A Panorama Consulting Solution cikkének kivonata/

2017.06.02