এজ এআই তথ্যের জন্মস্থানে বুদ্ধিমত্তা ছড়িয়ে দেয়। শুনতে অসাধারণ মনে হলেও মূল ধারণাটি সহজ: সেন্সরের ঠিক পাশে চিন্তাভাবনা করুন যাতে ফলাফল এখনই দেখা যায়, পরে নয়। প্রতিটি সিদ্ধান্তের জন্য ক্লাউডের সাহায্য ছাড়াই আপনি গতি, নির্ভরযোগ্যতা এবং একটি ভালো গোপনীয়তার গল্প পাবেন। আসুন এটি খুলে ফেলি - শর্টকাট এবং পার্শ্ব অনুসন্ধান অন্তর্ভুক্ত। 😅
এর পরে আপনি যে প্রবন্ধগুলি পড়তে পছন্দ করতে পারেন:
🔗 জেনারেটিভ এআই কী?
জেনারেটিভ এআই, এটি কীভাবে কাজ করে এবং ব্যবহারিক ব্যবহারের স্পষ্ট ব্যাখ্যা।
🔗 এজেন্টিক এআই কী?
এজেন্টিক এআই, স্বায়ত্তশাসিত আচরণ এবং বাস্তব-বিশ্বের প্রয়োগের ধরণগুলির সংক্ষিপ্তসার।
🔗 এআই স্কেলেবিলিটি কী?
নির্ভরযোগ্যভাবে, দক্ষতার সাথে এবং সাশ্রয়ী মূল্যে AI সিস্টেমগুলিকে কীভাবে স্কেল করতে হয় তা শিখুন।
🔗 এআই-এর জন্য একটি সফটওয়্যার ফ্রেমওয়ার্ক কী?
এআই সফটওয়্যার ফ্রেমওয়ার্ক, আর্কিটেকচারের সুবিধা এবং বাস্তবায়নের মূল বিষয়গুলির বিশ্লেষণ।
এজ এআই কী? এর দ্রুত সংজ্ঞা 🧭
এজ এআই হলো প্রশিক্ষিত মেশিন লার্নিং মডেলগুলিকে সরাসরি বা কাছাকাছি চালানোর একটি পদ্ধতি যা ডেটা সংগ্রহকারী ডিভাইসগুলিতে - ফোন, ক্যামেরা, রোবট, গাড়ি, পরিধেয় জিনিসপত্র, শিল্প নিয়ন্ত্রক, আপনি যাকে ডাকেন। বিশ্লেষণের জন্য দূরবর্তী সার্ভারে কাঁচা ডেটা পাঠানোর পরিবর্তে, ডিভাইসটি স্থানীয়ভাবে ইনপুট প্রক্রিয়া করে এবং কেবল সারসংক্ষেপ পাঠায় অথবা কিছুই পাঠায় না। কম রাউন্ড ট্রিপ, কম ল্যাগ, আরও নিয়ন্ত্রণ। আপনি যদি একটি পরিষ্কার, বিক্রেতা-নিরপেক্ষ ব্যাখ্যাকারী চান, তাহলে এখান থেকে শুরু করুন। [1]

এজ এআই আসলে কী কাজে লাগে? 🌟
-
কম লেটেন্সি - সিদ্ধান্তগুলি ডিভাইসেই নেওয়া হয়, তাই বস্তু সনাক্তকরণ, জেগে ওঠার শব্দ সনাক্তকরণ, বা অসঙ্গতি সতর্কতার মতো উপলব্ধিমূলক কাজের জন্য প্রতিক্রিয়াগুলি তাৎক্ষণিক বোধ করে। [1]
-
স্থান অনুসারে গোপনীয়তা - সংবেদনশীল ডেটা ডিভাইসে থাকতে পারে, এক্সপোজার হ্রাস করে এবং ডেটা-মিনিমাইজেশন আলোচনায় সহায়তা করে। [1]
-
ব্যান্ডউইথ সাশ্রয় - কাঁচা স্ট্রিম পাঠানোর পরিবর্তে বৈশিষ্ট্য বা ইভেন্ট পাঠান। [1]
-
স্থিতিস্থাপকতা - অস্পষ্ট সংযোগের সময় কাজ করে।
-
খরচ নিয়ন্ত্রণ - কম ক্লাউড কম্পিউট চক্র এবং কম নির্গমন।
-
প্রসঙ্গ সচেতনতা - ডিভাইসটি পরিবেশ "অনুভূতি" করে এবং মানিয়ে নেয়।
সংক্ষিপ্ত উপাখ্যান: একজন খুচরা পাইলট ডিভাইসে ব্যক্তি-বনাম-বস্তুর শ্রেণিবিন্যাসের জন্য ধ্রুবক ক্যামেরা আপলোডগুলি অদলবদল করেছিলেন এবং কেবল ঘন্টার পর ঘন্টা গণনা এবং ব্যতিক্রম ক্লিপগুলি পুশ করেছিলেন। ফলাফল: শেল্ফ প্রান্তে 200 মিলিসেকেন্ডের কম সতর্কতা এবং আপলিংক ট্র্যাফিক ~90% হ্রাস - স্টোর WAN চুক্তি পরিবর্তন না করেই। (পদ্ধতি: স্থানীয় অনুমান, ইভেন্ট ব্যাচিং, কেবল অসঙ্গতি।)
এজ এআই বনাম ক্লাউড এআই - দ্রুত বৈসাদৃশ্য 🥊
-
যেখানে গণনা করা হয় : edge = অন-ডিভাইস/নিয়ার-ডিভাইস; ক্লাউড = রিমোট ডেটা সেন্টার।
-
লেটেন্সি : প্রান্ত ≈ রিয়েল-টাইম; ক্লাউড রাউন্ড ট্রিপ করে।
-
ডেটা মুভমেন্ট : প্রথমে এজ ফিল্টার/কম্প্রেস করে; ক্লাউড ফুল-ফিডেলিটি আপলোড পছন্দ করে।
-
নির্ভরযোগ্যতা : এজ অফলাইনে চলতে থাকে; ক্লাউডের সংযোগ প্রয়োজন।
-
শাসনব্যবস্থা : এজ ডেটা মিনিমাইজেশন সমর্থন করে; ক্লাউড তদারকিকে কেন্দ্রীভূত করে। [1]
এটা কোনটিই নয়-অথবা নয়। স্মার্ট সিস্টেম দুটিকেই একত্রিত করে: স্থানীয়ভাবে দ্রুত সিদ্ধান্ত, গভীর বিশ্লেষণ এবং কেন্দ্রীয়ভাবে বহর শেখা। হাইব্রিড উত্তরটি বিরক্তিকর-এবং সঠিক।
গোপনে এজ এআই আসলে কীভাবে কাজ করে 🧩
-
সেন্সরগুলি অ-রক্ষিত সংকেত ধারণ করে - অডিও ফ্রেম, ক্যামেরা পিক্সেল, আইএমইউ ট্যাপ, কম্পনের চিহ্ন।
-
প্রি-প্রসেসিং সেই সংকেতগুলিকে মডেল-বান্ধব বৈশিষ্ট্যগুলিতে পুনর্নির্মাণ করে।
-
ইনফারেন্স রানটাইম ডিভাইসে একটি কমপ্যাক্ট মডেল কার্যকর করে যখন অ্যাক্সিলারেটর উপলব্ধ থাকে।
-
পোস্টপ্রসেসিং আউটপুটগুলিকে ইভেন্ট, লেবেল বা নিয়ন্ত্রণ ক্রিয়ায় রূপান্তরিত করে।
-
টেলিমেট্রি কেবল সেইসব জিনিস আপলোড করে যা দরকারী: সারাংশ, অসঙ্গতি, অথবা পর্যায়ক্রমিক প্রতিক্রিয়া।
ডিভাইসে আপনি যে রানটাইমগুলি দেখতে পাবেন তার মধ্যে রয়েছে Google-এর LiteRT (পূর্বে TensorFlow Lite), ONNX Runtime , এবং Intel-এর OpenVINO । এই টুলচেইনগুলি কোয়ান্টাইজেশন এবং অপারেটর ফিউশনের মতো কৌশল ব্যবহার করে টাইট পাওয়ার/মেমরি বাজেট থেকে থ্রুপুট সঙ্কুচিত করে। যদি আপনি নাটস অ্যান্ড বোল্ট পছন্দ করেন, তাহলে তাদের ডকুমেন্টগুলি দৃঢ়। [3][4]
এটি কোথায় দেখা যাচ্ছে - বাস্তব ব্যবহারের ক্ষেত্রে আপনি 🧯🚗🏭 উল্লেখ করতে পারেন।
-
প্রান্তে দৃষ্টি : ডোরবেল ক্যাম (মানুষ বনাম পোষা প্রাণী), খুচরা দোকানে শেল্ফ-স্ক্যানিং, ত্রুটি সনাক্তকারী ড্রোন।
-
ডিভাইসে অডিও : জাগরণের শব্দ, ডিকটেশন, উদ্ভিদে লিক সনাক্তকরণ।
-
ইন্ডাস্ট্রিয়াল আইওটি : ব্যর্থতার আগে কম্পনের অসঙ্গতির জন্য মোটর এবং পাম্পগুলি পর্যবেক্ষণ করা হয়।
-
অটোমোটিভ : ড্রাইভার পর্যবেক্ষণ, লেন সনাক্তকরণ, পার্কিং সহায়তা-সাব-সেকেন্ড বা বাস চলাচল।
-
স্বাস্থ্যসেবা : পরিধেয় ডিভাইসগুলি স্থানীয়ভাবে অ্যারিথমিয়া চিহ্নিত করে; পরে সারাংশ সিঙ্ক করুন।
-
স্মার্টফোন : ছবি বৃদ্ধি, স্প্যাম-কল সনাক্তকরণ, "আমার ফোনটি অফলাইনে কীভাবে এটি করেছে" মুহূর্তগুলি।
আনুষ্ঠানিক সংজ্ঞার জন্য (এবং "কুয়াশা বনাম প্রান্ত" কাজিন আলোচনা), NIST ধারণাগত মডেলটি দেখুন। [2]
যে হার্ডওয়্যার এটিকে দ্রুত করে তোলে 🔌
কিছু প্ল্যাটফর্মের নাম প্রায়শই যাচাই করা হয়:
-
এনভিআইডিএ জেটসন - রোবট/ক্যামেরা-সুইস-আর্মি-ছুরি ভাইবসের জন্য জিপিইউ-চালিত মডিউল, এমবেডেড এআই-এর জন্য।
-
Google Edge TPU + LiterRT - অতি-নিম্ন-বিদ্যুৎ প্রকল্পের জন্য দক্ষ পূর্ণসংখ্যা অনুমান এবং একটি সুবিন্যস্ত রানটাইম। [3]
-
অ্যাপল নিউরাল ইঞ্জিন (ANE) - আইফোন, আইপ্যাড এবং ম্যাকের জন্য ডিভাইসে আঁটসাঁট এমএল; অ্যাপল ANE তে দক্ষতার সাথে ট্রান্সফরমার স্থাপনের উপর ব্যবহারিক কাজ প্রকাশ করেছে। [5]
-
OpenVINO সহ Intel CPUs/iGPUs/NPUs - Intel হার্ডওয়্যার জুড়ে "একবার লিখুন, যেকোনো জায়গায় স্থাপন করুন"; দরকারী অপ্টিমাইজেশন পাস।
-
ONNX রানটাইম সর্বত্র - ফোন, পিসি এবং গেটওয়ে জুড়ে প্লাগেবল এক্সিকিউশন প্রোভাইডার সহ একটি নিরপেক্ষ রানটাইম। [4]
তোমার কি সবগুলো দরকার? আসলে না। তোমার বহরের সাথে মানানসই একটি শক্তিশালী পথ বেছে নাও এবং এর সাথে লেগে থাকো - মন্থন হলো এমবেডেড টিমের শত্রু।
সফটওয়্যার স্ট্যাক - সংক্ষিপ্ত সফর 🧰
-
মডেল কম্প্রেশন : কোয়ান্টাইজেশন (প্রায়শই int8 পর্যন্ত), ছাঁটাই, পাতন।
-
অপারেটর-স্তরের ত্বরণ : আপনার সিলিকনের সাথে সুরক্ষিত কার্নেল।
-
রানটাইম : LiteRT, ONNX রানটাইম, OpenVINO। [৩][৪]
-
ডিপ্লয়মেন্ট র্যাপার : কন্টেইনার/অ্যাপ বান্ডেল; কখনও কখনও গেটওয়েতে মাইক্রোসার্ভিসেস।
-
প্রান্তের জন্য MLOps : OTA মডেল আপডেট, A/B রোলআউট, টেলিমেট্রি লুপ।
-
গোপনীয়তা এবং নিরাপত্তা নিয়ন্ত্রণ : ডিভাইসে এনক্রিপশন, সুরক্ষিত বুট, প্রত্যয়ন, ছিটমহল।
মিনি-কেস: একটি পরিদর্শন ড্রোন দল LiterRT-এর জন্য একটি কোয়ান্টাইজড স্টুডেন্ট মডেলে একটি হেভিওয়েট ডিটেক্টর ডিস্টিল করেছে, তারপর ডিভাইসে NMS ফিউজ করেছে। কম কম্পিউট ড্রয়ের কারণে ফ্লাইটের সময় ~15% বৃদ্ধি পেয়েছে; আপলোড ভলিউম ব্যতিক্রম ফ্রেমে সঙ্কুচিত হয়েছে। (পদ্ধতি: সাইটে ডেটাসেট ক্যাপচার, পোস্ট-কোয়ান্ট ক্যালিব্রেশন, সম্পূর্ণ রোলআউটের আগে শ্যাডো-মোড A/B।)
তুলনা সারণী - জনপ্রিয় এজ এআই বিকল্পগুলি 🧪
আসল কথা: এই টেবিলটি মতামতভিত্তিক এবং কিছুটা এলোমেলো - ঠিক বাস্তব জগতের মতো।
| টুল / প্ল্যাটফর্ম | সেরা দর্শক | দাম বলপার্ক | কেন এটি প্রান্তে কাজ করে |
|---|---|---|---|
| LiterRT (প্রাক্তন TFLite) | অ্যান্ড্রয়েড, নির্মাতারা, এমবেডেড | $ থেকে $$ | লিন রানটাইম, শক্তিশালী ডক্স, মোবাইল-ফার্স্ট অপারেশন। অফলাইনে সুন্দরভাবে কাজ করে। [3] |
| ONNX রানটাইম | ক্রস-প্ল্যাটফর্ম টিম | $ | নিরপেক্ষ বিন্যাস, প্লাগেবল হার্ডওয়্যার ব্যাকএন্ড-ভবিষ্যৎ-বান্ধব। [4] |
| ওপেনভিনো | ইন্টেল-কেন্দ্রিক স্থাপনা | $ | একটি টুলকিট, অনেক ইন্টেল টার্গেট; সহজ অপ্টিমাইজেশন পাস। |
| এনভিআইডিএ জেটসন | রোবোটিক্স, দৃষ্টি-ভারী | $$ থেকে $$$ | লাঞ্চবক্সে GPU ত্বরণ; বিস্তৃত বাস্তুতন্ত্র। |
| অ্যাপল এএনই | iOS/iPadOS/macOS অ্যাপস | ডিভাইসের দাম | শক্ত HW/SW ইন্টিগ্রেশন; সু-নথিভুক্ত ANE ট্রান্সফরমারের কাজ। [5] |
| এজ টিপিইউ + লিটারআরটি | অতি-নিম্ন-বিদ্যুৎ প্রকল্প | $ | প্রান্তে দক্ষ int8 অনুমান; ক্ষুদ্র কিন্তু সক্ষম। [3] |
কিভাবে একটি এজ এআই পথ বেছে নেবেন - একটি ক্ষুদ্র সিদ্ধান্ত বৃক্ষ 🌳
-
তোমার বাস্তব জীবনের জন্য কি কঠিন? অ্যাক্সিলারেটর + কোয়ান্টাইজড মডেল দিয়ে শুরু করো।
-
অনেক ধরণের ডিভাইস? পোর্টেবিলিটির জন্য ONNX রানটাইম অথবা OpenVINO পছন্দ করুন। [4]
-
মোবাইল অ্যাপ পাঠানোর পদ্ধতি? LiterRT হল সবচেয়ে কম প্রতিরোধের পথ। [3]
-
রোবোটিক্স নাকি ক্যামেরা অ্যানালিটিক্স? জেটসনের জিপিইউ-বান্ধব অপারেশনগুলি সময় বাঁচায়।
-
গোপনীয়তার কঠোর নীতি? ডেটা স্থানীয় রাখুন, এনক্রিপ্ট করুন, লগ এগ্রিগেট করুন, কাঁচা ফ্রেম নয়।
-
ছোট দল? বিদেশী টুলচেইন এড়িয়ে চলুন - একঘেয়েমি সুন্দর।
-
মডেলগুলি কি ঘন ঘন পরিবর্তন হবে? প্রথম দিন থেকেই OTA এবং টেলিমেট্রি পরিকল্পনা করুন।
ঝুঁকি, সীমা, এবং বিরক্তিকর কিন্তু গুরুত্বপূর্ণ বিষয় 🧯
-
মডেল ড্রিফ্ট - পরিবেশ পরিবর্তন হয়; বিতরণ পর্যবেক্ষণ করুন, ছায়া মোড চালান, পর্যায়ক্রমে পুনরায় প্রশিক্ষণ দিন।
-
কম্পিউট সিলিং - ছোট মডেলের মেমরি/পাওয়ার ফোর্স কম অথবা নির্ভুলতা কম।
-
নিরাপত্তা - ভৌত অ্যাক্সেস ধরে নিন; নিরাপদ বুট, স্বাক্ষরিত শিল্পকর্ম, প্রত্যয়ন, ন্যূনতম-সুবিধাপ্রাপ্ত পরিষেবা ব্যবহার করুন।
-
ডেটা গভর্নেন্স - স্থানীয় প্রক্রিয়াকরণ সাহায্য করে, কিন্তু আপনার এখনও সম্মতি, ধারণ এবং স্কোপড টেলিমেট্রি প্রয়োজন।
-
ফ্লিট অপ্স - ডিভাইসগুলি সবচেয়ে খারাপ সময়ে অফলাইনে চলে যায়; বিলম্বিত আপডেট এবং পুনরায় শুরু করার যোগ্য আপলোড ডিজাইন করুন।
-
ট্যালেন্ট মিক্স - এমবেডেড + এমএল + ডেভঅপস একটি বিচিত্র দল; তাড়াতাড়ি ক্রস-ট্রেন।
দরকারী কিছু পাঠানোর জন্য একটি ব্যবহারিক রোডম্যাপ 🗺️
-
লাইন ৩-এ পরিমাপযোগ্য মান-ত্রুটি সনাক্তকরণ, স্মার্ট স্পিকারে ওয়েক ওয়ার্ড ইত্যাদি সহ একটি ব্যবহারের কেস বেছে নিন।
-
লক্ষ্য পরিবেশের প্রতিফলনকারী একটি পরিপাটি ডেটাসেট সংগ্রহ করুন
-
প্রোডাকশন হার্ডওয়্যারের কাছাকাছি একটি ডেভেলপ কিটে প্রোটোটাইপ
-
মডেলটি সংকুচিত করুন ; নির্ভুলতার ক্ষতি সততার সাথে পরিমাপ করুন। [3]
-
একটি পরিষ্কার API-তে অনুমান মোড়ানো - কারণ ডিভাইসগুলি রাত ২ টায় হ্যাং হয়
-
টেলিমেট্রি ডিজাইন করুন : প্রেরণ গণনা, হিস্টোগ্রাম, প্রান্ত-নিষ্কাশিত বৈশিষ্ট্য।
-
নিরাপত্তা জোরদার করুন : স্বাক্ষরিত বাইনারি, নিরাপদ বুট, ন্যূনতম পরিষেবা খোলা।
-
পরিকল্পনা OTA : স্তব্ধ রোলআউট, ক্যানারি, তাৎক্ষণিক রোলব্যাক।
-
একটা জঘন্য কোণার কেসে পাইলট - যদি এটি সেখানে টিকে থাকে, তবে এটি যেকোনো জায়গায় টিকে থাকবে।
-
একটি প্লেবুক দিয়ে স্কেল করুন : আপনি কীভাবে মডেল যোগ করবেন, কী ঘোরাবেন, ডেটা আর্কাইভ করবেন - যাতে প্রকল্প #২ বিশৃঙ্খলা না করে।
এজ এআই কৌতূহল কী তার সংক্ষিপ্ত উত্তর ❓
এজ এআই কি কেবল একটি ক্ষুদ্র কম্পিউটারে একটি ছোট মডেল চালাচ্ছে?
বেশিরভাগ ক্ষেত্রেই, হ্যাঁ - তবে আকারই পুরো গল্প নয়। এটি ল্যাটেন্সি বাজেট, গোপনীয়তার প্রতিশ্রুতি এবং স্থানীয়ভাবে কাজ করে এমন অনেক ডিভাইসকে বিশ্বব্যাপী শেখার জন্য সাজানোর বিষয়েও। [1]
আমি কি প্রান্তে প্রশিক্ষণ নিতে পারি?
হালকা অন-ডিভাইস প্রশিক্ষণ/ব্যক্তিগতকরণ বিদ্যমান; ভারী প্রশিক্ষণ এখনও কেন্দ্রীয়ভাবে পরিচালিত হয়। যদি আপনি দুঃসাহসিক হন তবে ONNX রানটাইম ডিভাইসে প্রশিক্ষণের বিকল্পগুলি নথিভুক্ত করে। [4]
এজ এআই বনাম ফগ কম্পিউটিং কী?
ফগ এবং এজ হল চাচাতো ভাই। উভয়ই কম্পিউটকে ডেটা উৎসের কাছাকাছি নিয়ে আসে, কখনও কখনও কাছাকাছি গেটওয়েগুলির মাধ্যমে। আনুষ্ঠানিক সংজ্ঞা এবং প্রেক্ষাপটের জন্য, NIST দেখুন। [2]
এজ এআই কি সবসময় গোপনীয়তা উন্নত করে?
এটি সাহায্য করে - কিন্তু এটি জাদু নয়। আপনার এখনও মিনিমাইজেশন, সুরক্ষিত আপডেট পাথ এবং সাবধানে লগিং প্রয়োজন। গোপনীয়তাকে একটি অভ্যাস হিসেবে বিবেচনা করুন, চেকবক্স হিসেবে নয়।
গভীরভাবে ডুব দেওয়া যা আপনি আসলে পড়তে পারেন 📚
১) মডেল অপ্টিমাইজেশন যা নির্ভুলতা নষ্ট করে না
কোয়ান্টাইজেশন মেমোরি কমাতে পারে এবং অপারেশনের গতি বাড়াতে পারে, কিন্তু প্রতিনিধিত্বমূলক ডেটা দিয়ে ক্যালিব্রেট করতে পারে, নাহলে মডেলটি কাঠবিড়ালিদের বিভ্রান্ত করতে পারে যেখানে ট্র্যাফিক শঙ্কু থাকে। ডিস্টিলেশন - শিক্ষক একজন ছোট ছাত্রকে নির্দেশনা দেন - প্রায়শই শব্দার্থবিদ্যা সংরক্ষণ করে। [3]
2) অনুশীলনে প্রান্ত অনুমান রানটাইম
LiterRT-এর ইন্টারপ্রেটার রানটাইমে ইচ্ছাকৃতভাবে স্ট্যাটিক-লেস মেমোরি চার্ন ব্যবহার করে। ONNX রানটাইম এক্সিকিউশন প্রোভাইডারদের মাধ্যমে বিভিন্ন অ্যাক্সিলারেটরে প্লাগ ইন করে। কোনটিই সিলভার বুলেট নয়; উভয়ই সলিড হ্যামার। [3][4]
৩) বন্য অঞ্চলে দৃঢ়তা
তাপ, ধুলো, ফ্লেকি পাওয়ার, স্ল্যাপড্যাশ ওয়াই-ফাই: এমন ওয়াচডগ তৈরি করুন যা পাইপলাইন পুনরায় চালু করে, সিদ্ধান্ত ক্যাশে করে এবং নেটওয়ার্ক ফিরে এলে পুনর্মিলন করে। মনোযোগের চেয়ে কম আকর্ষণীয় - তবে বেশি গুরুত্বপূর্ণ।
মিটিংয়ে আপনি যে বাক্যাংশটি পুনরাবৃত্তি করবেন - এজ এআই কী 🗣️
এজ এআই ল্যাটেন্সি, গোপনীয়তা, ব্যান্ডউইথ এবং নির্ভরযোগ্যতার ব্যবহারিক সীমাবদ্ধতা পূরণের জন্য বুদ্ধিমত্তাকে ডেটার কাছাকাছি নিয়ে যায়। জাদুটি কেবল একটি চিপ বা কাঠামোর মধ্যে সীমাবদ্ধ নয় - এটি কোথায় কী গণনা করতে হবে তা বিজ্ঞতার সাথে বেছে নেওয়া।
শেষ মন্তব্য - অনেক লম্বা, আমি এটা পড়িনি 🧵
এজ এআই মডেলগুলি ডেটার কাছাকাছি চালায় যাতে পণ্যগুলি দ্রুত, ব্যক্তিগত এবং মজবুত বোধ করে। উভয় জগতের সেরাটির জন্য আপনি স্থানীয় অনুমান এবং ক্লাউড তদারকির মিশ্রণ করবেন। আপনার ডিভাইসের সাথে মেলে এমন একটি রানটাইম চয়ন করুন, যখনই সম্ভব অ্যাক্সিলারেটরের উপর নির্ভর করুন, কম্প্রেশনের মাধ্যমে মডেলগুলিকে পরিপাটি রাখুন এবং ফ্লিট অপারেশনগুলি ডিজাইন করুন যেমন আপনার কাজ এর উপর নির্ভর করে - কারণ, ঠিক আছে, এটি হতে পারে। যদি কেউ জিজ্ঞাসা করে যে এজ এআই কী , বলুন: স্মার্ট সিদ্ধান্ত, স্থানীয়ভাবে, সময়মতো নেওয়া। তারপর হেসে ব্যাটারির বিষয়টি পরিবর্তন করুন। 🔋🙂
তথ্যসূত্র
-
আইবিএম - এজ এআই কী? (সংজ্ঞা, সুবিধা)।
https://www.ibm.com/think/topics/edge-ai -
NIST - SP 500-325: ফগ কম্পিউটিং ধারণাগত মডেল (ফগ/এজের জন্য আনুষ্ঠানিক প্রসঙ্গ)।
https://csrc.nist.gov/pubs/sp/500/325/final -
গুগল এআই এজ - LiterRT (পূর্বে টেনসরফ্লো লাইট) (রানটাইম, কোয়ান্টাইজেশন, মাইগ্রেশন)।
https://ai.google.dev/edge/litert -
ONNX রানটাইম - অন-ডিভাইস ট্রেনিং (পোর্টেবল রানটাইম + এজ ডিভাইসে ট্রেনিং)।
https://onnxruntime.ai/docs/get-started/training-on-device.html -
অ্যাপল মেশিন লার্নিং গবেষণা - অ্যাপল নিউরাল ইঞ্জিনে ট্রান্সফরমার স্থাপন (ANE দক্ষতা নোট)।
https://machinelearning.apple.com/research/neural-engine-transformers