Ollama দিয়ে প্রাইভেট লোকাল এআই: এটি কী, কেমন হার্ডওয়্যার লাগে, কীভাবে যুক্ত করবেন

ক্লাউড এআই সুবিধাজনক, কিন্তু প্রতিটি রিকোয়েস্ট আপনার ঘর ছেড়ে বাইরে যায়। Ollama লোকাল এআই ভিন্ন পথে চলে: এটি আপনার নিজের কম্পিউটারে ওপেন মডেল চালায়, তাই প্রম্পট আর উত্তর কখনো বাইরের কোনো কোম্পানির কাছে যায় না। এই গাইডে দেখব Ollama কী, বাস্তবে কেমন হার্ডওয়্যার লাগে, আর ফোনের Cinematic Recorder-এ কীভাবে যুক্ত করবেন।

Ollama কী?

Ollama হলো Windows, macOS ও Linux-এর একটি ফ্রি প্রোগ্রাম, যা এআই মডেল ডাউনলোড করে লোকালি চালায়। ইনস্টল করে এক কমান্ডে একটি মডেল নামান, আর সেটি আপনার কম্পিউটারে চালু হয়ে যায়। এরপর অন্য অ্যাপ — ফোনের অ্যাপও — ঘরের নেটওয়ার্ক দিয়ে এতে রিকোয়েস্ট পাঠাতে পারে।

এগুলো "ওপেন-ওয়েট" মডেল, অর্থাৎ এদের ফাইল যে কেউ ডাউনলোড করে চালাতে পারে। সাধারণ ল্যাপটপে চলা ছোট মডেল থেকে শুরু করে শক্তিশালী গ্রাফিক্স কার্ড লাগা বড় মডেল — সব ধরনেরই আছে।

কেন লোকাল এআই?

• প্রাইভেসি। আপনার প্রম্পট থাকে আপনার নিয়ন্ত্রণের হার্ডওয়্যারে। বেশিরভাগ মানুষ মূলত এ কারণেই এটি বাছেন।
• রিকোয়েস্টপ্রতি বিল নেই। সেট আপের পর শুধু বিদ্যুৎ খরচ।
• অ্যাকাউন্ট বা কার্ড লাগে না। আন্তর্জাতিক পেমেন্ট কঠিন হলে খুব কাজের।
• ইন্টারনেট ছাড়াও চলে — মডেল ডাউনলোড হয়ে গেলে, যতক্ষণ ফোন আর কম্পিউটার একই লোকাল নেটওয়ার্কে থাকে।

সৎভাবে অসুবিধাগুলো

• লোকাল মডেল সাধারণত শীর্ষ ক্লাউড মডেলের চেয়ে ছোট, তাই উত্তর একটু কম গোছানো হতে পারে, বিশেষ করে বাংলায়।
• গতি নির্ভর করে আপনার কম্পিউটারের ওপর। ধীর মেশিন মানে ধীর উত্তর।
• ফোনে এআই চাইলে কম্পিউটার চালু ও নেটওয়ার্কে পৌঁছানোর মতো থাকতে হবে।
• কী পেস্ট করার চেয়ে সেট আপে একটু বেশি পরিশ্রম লাগে।

কেমন হার্ডওয়্যার লাগবে?

একটি নির্দিষ্ট উত্তর নেই, কারণ এটি মডেলের আকারের ওপর নির্ভর করে। মোটামুটি ধারণা:

খালি ডিস্ক জায়গাও জরুরি: প্রতিটি মডেল কয়েক গিগাবাইট জায়গা নিতে পারে। ছোট মডেল দিয়ে শুরু করুন, কেমন লাগে দেখুন, দরকার হলে তবেই বড়টিতে যান। এআই মডেল বাছাইয়ের গাইডে বোঝানো আছে কেন বড় মানেই সবসময় ভালো নয়।

কম্পিউটারে Ollama সেট আপ

1. অফিসিয়াল ওয়েবসাইট থেকে Ollama ডাউনলোড করে ইনস্টল করুন।
2. একটি টার্মিনাল খুলুন (Windows-এ Command Prompt, Mac-এ Terminal) আর একটি মডেল নামান, যেমন ollama pull লিখে তারপর Ollama-র মডেল লাইব্রেরিতে থাকা মডেলের নাম।
3. ollama run আর মডেলের নাম দিয়ে পরীক্ষা করুন। একটি প্রশ্ন লিখুন; উত্তর দিলে মডেল কাজ করছে।
4. ডিফল্টভাবে Ollama শুধু ওই কম্পিউটারের রিকোয়েস্ট শোনে। ফোন থেকে পৌঁছাতে OLLAMA_HOST এনভায়রনমেন্ট ভেরিয়েবল 0.0.0.0 করে Ollama রিস্টার্ট করুন। প্রতিটি অপারেটিং সিস্টেমে কীভাবে করবেন তা Ollama-র ডকুমেন্টেশনে আছে।
5. কম্পিউটারের ফায়ারওয়ালে শুধু প্রাইভেট (ঘরের) নেটওয়ার্কের জন্য Ollama-কে অনুমতি দিন।
6. কম্পিউটারের লোকাল IP ঠিকানা বের করুন (সাধারণত 192.168.x.x-এর মতো)। Ollama সাধারণত 11434 পোর্ট ব্যবহার করে।

Cinematic Recorder-এ Ollama যুক্ত করা (সাপোর্ট এলে)

1. ফোনকে কম্পিউটারের একই Wi-Fi-তে যুক্ত করুন।
2. Cinematic Recorder খুলে এআই বা "নিজের কী" (bring your own key) সেটিংসে যান।
3. প্রোভাইডার হিসেবে Ollama বাছুন।
4. কম্পিউটারের ঠিকানা দিন, যেমন http://192.168.1.20:11434 (নিজের IP বসাবেন)।
5. যে মডেল নামিয়েছেন সেটি বেছে সেভ করুন।

যুক্ত না হলে দেখুন দুটো ডিভাইস একই নেটওয়ার্কে আছে কি না, Ollama চালু আছে কি না, আর ফায়ারওয়াল অনুমতি দিচ্ছে কি না। কিছু রাউটার গেস্ট নেটওয়ার্কে ডিভাইসগুলোকে আলাদা করে রাখে, তাই মূল Wi-Fi ব্যবহার করুন।

প্রোভাইডার অপশন সম্পর্কে আরও পড়ুন ফিচার পেজে। মনে রাখবেন, কথা থেকে ক্যাপশন এখন চলে ক্রেডিট দিয়ে আমাদের সার্ভারে, অথবা আপনার নিজের OpenAI বা Gemini কী দিয়ে। সাধারণ ভাষায় এআই এডিটিং আর এআই অনুবাদ এখনো শীঘ্রই আসছে; এখন Ollama সেট করে রাখলে এগুলো এলে আপনার লোকাল মডেল ব্যবহার করতে পারবে।

লোকাল এআই কখন সবচেয়ে কাজের

যে কাজের কনটেন্ট শেয়ার করা যায় না

অফিসের ইন্টারনাল টুল, ক্লায়েন্টের ড্যাশবোর্ড বা স্কুলের রেকর্ড রেকর্ড করলে লোকাল এআই সেই লেখা আপনার মেশিনেই রাখে। সঙ্গে মেনে চলুন রেকর্ডের আগে প্রাইভেসি গাইডের সতর্ক অভ্যাসগুলো।

অনেক ছোট, পুনরাবৃত্ত কাজ

প্রতি সপ্তাহে অনেক টাইটেল বা সারসংক্ষেপ বানালে লোকাল এআই বাড়তে থাকা বিল এড়ায়। এআই খরচ কম রাখার সেরা উপায়গুলোর একটি এটি।

শেখা ও পরীক্ষা-নিরীক্ষা

খরচের চিন্তা ছাড়া বিভিন্ন ওপেন মডেল চালিয়ে দেখা এআই কী পারে আর কী পারে না তা বোঝার ভালো উপায়।

সাধারণ প্রশ্ন (FAQ)

Ollama কি সরাসরি আমার অ্যান্ড্রয়েড ফোনে চলবে?

Cinematic Recorder আপনার নেটওয়ার্কের একটি কম্পিউটারে চলা Ollama-র সঙ্গে যুক্ত হবে। ফোনে নিজেই বড় মডেল চালানো ধীর আর ব্যাটারি খরচ করে, তাই কম্পিউটারই বাস্তবসম্মত পছন্দ।

Ollama কি পুরোপুরি প্রাইভেট?

মডেল চলে আপনার কম্পিউটারে, তাই রিকোয়েস্ট কোনো এআই কোম্পানির কাছে যায় না। তখন আপনার প্রাইভেসি নির্ভর করে ওই কম্পিউটার ও নেটওয়ার্ক কতটা সুরক্ষিত রাখছেন তার ওপর।

Ollama কি ফ্রি?

Ollama আর অনেক ওপেন মডেল ফ্রিতে ডাউনলোড করা যায়। ব্যবসার কাজে ব্যবহার করতে চাইলে প্রতিটি মডেলের লাইসেন্স দেখে নিন।

উত্তর এত ধীর কেন?

মডেলটি আপনার হার্ডওয়্যারের তুলনায় বড় হতে পারে। ছোট মডেল চেষ্টা করুন, ভারী প্রোগ্রাম বন্ধ করুন, বা গ্রাফিক্স কার্ডওয়ালা কম্পিউটার ব্যবহার করুন।

Ollama দিয়ে লোকাল এআই একটু সুবিধা ছেড়ে দিয়ে আসল নিয়ন্ত্রণ দেয়। প্রাইভেসি আপনার কাছে গুরুত্বপূর্ণ হলে এক বিকেলের সেট আপ পুরোপুরি মূল্যবান — আর কম্পিউটার বন্ধ থাকলেও এডিটর পুরোপুরি কাজ করতে থাকে।