
اجرای Llama روی VPS؛ آموزش نصب و اجرای مدل هوش مصنوعی روی سرور
Meta Description:
آموزش اجرای Llama روی VPS با Ollama؛ نصب Llama روی سرور لینوکس، انتخاب منابع مناسب، اجرای مدل، API، امنیت و بهینه سازی عملکرد.
اجرای Llama روی VPS
مدل های زبانی بزرگ یا LLM دیگر فقط روی سرویس های آنلاین اجرا نمی شوند. اگر VPS مناسبی در اختیار داشته باشید، می توانید مدل هایی از خانواده Meta Llama را مستقیماً روی سرور خود اجرا کنید و یک محیط هوش مصنوعی خصوصی برای چت، تولید محتوا، برنامه نویسی، پردازش متن و حتی ساخت سرویس های مبتنی بر API داشته باشید.
یکی از ساده ترین روش ها برای اجرای Llama روی سرور، استفاده از Ollama است. Ollama مدیریت دانلود مدل، اجرای آن و ارائه API را ساده می کند و روی لینوکس نیز به صورت رسمی پشتیبانی می شود.
در این آموزش از صفر شروع می کنیم و یک Llama را روی VPS لینوکسی اجرا خواهیم کرد.
Llama چیست؟
Llama خانواده ای از مدل های زبانی توسعه یافته توسط Meta است که برای طیف گسترده ای از کاربردهای هوش مصنوعی استفاده می شود.
بسته به نسخه و اندازه مدل، می توان از Llama برای کارهایی مانند:

- چت و پاسخ گویی
- خلاصه سازی متن
- تولید محتوا
- برنامه نویسی
- تحلیل متن
- ساخت دستیار هوش مصنوعی
- پردازش اسناد
- ساخت API هوش مصنوعی
استفاده کرد.
برای اجرای مدل روی سرور، فقط نام مدل مهم نیست؛ تعداد پارامترها، کوانتایزیشن، طول Context، RAM، CPU و GPU هم روی عملکرد نهایی تأثیر دارند.
چرا Llama را روی VPS اجرا کنیم؟
اجرای مدل به صورت محلی روی VPS چند مزیت مهم دارد.
🔐 کنترل بیشتر روی داده ها
در معماری Self-Hosted، پردازش مدل روی زیرساختی انجام می شود که خودتان کنترل می کنید. این موضوع برای پروژه هایی که اطلاعات خصوصی یا داخلی دارند اهمیت زیادی دارد.
⚡ دسترسی دائمی
مدل پس از نصب روی سرور می تواند بدون نیاز به باز کردن مرورگر یا استفاده از یک سرویس چت عمومی در دسترس باشد.
🔌 امکان استفاده از API
Ollama یک API محلی ارائه می کند که می توان از طریق آن Llama را به نرم افزار، وب سایت یا سرویس داخلی متصل کرد.
🧩 امکان ساخت سرویس اختصاصی
می توانید Llama را پشت یک Backend قرار دهید و برای آن پنل کاربری، چت بات، API یا سیستم اتوماسیون اختصاصی بسازید.
چه VPS برای اجرای Llama مناسب است؟
اینجا مهم ترین بخش ماجراست.
هر VPS برای اجرای هر مدل Llama مناسب نیست.
مدل های کوچک را می توان روی CPU اجرا کرد، اما برای مدل های بزرگ تر، GPU تفاوت بسیار زیادی در سرعت inference ایجاد می کند.
برای مثال، در کتابخانه Ollama، Llama 3.2 در اندازه های 1B و 3B ارائه شده و حجم مدل های آن حدود ۱.۳ تا ۲ گیگابایت است؛ در مقابل Llama 3.3 یک مدل 70B است و نسخه فعلی آن حدود 43GB حجم مدل دارد.
پیشنهاد عملی برای منابع VPS
| نوع استفاده | CPU | RAM | GPU |
|---|---|---|---|
| تست Llama کوچک | 4 Core | 8GB | نیاز نیست |
| استفاده معمولی | ۶ تا ۸ Core | 16GB | ترجیحاً |
| مدل های بزرگ تر | ۸ تا ۱۶ Core | 32GB+ | توصیه می شود |
| Llama 70B | 16 Core+ | 64GB+ | به شدت توصیه می شود |
این اعداد نسخه قطعی «حداقل سیستم» نیستند؛ مدل، quantization، context length و تعداد درخواست های هم زمان می توانند نیاز حافظه را تغییر دهند.
سرور مجازی خارج برای اجرای Llama
اگر قصد دارید مدل هوش مصنوعی خود را روی زیرساخت خارج از ایران اجرا کنید، انتخاب سخت افزار و دیتاسنتر اهمیت زیادی دارد.
برای پروژه هایی که به منابع بیشتر، پهنای باند مناسب یا دسترسی پایدار به سرویس های بین المللی نیاز دارند، می توانید سرویس های سرور مجازی خارج نگارنوین را بررسی کنید:
برای مدل های بزرگ تر نیز بهتر است پیش از خرید، میزان RAM، CPU و در صورت نیاز نوع GPU را بر اساس مدل موردنظر مشخص کنید.
آموزش نصب Ollama روی VPS لینوکس
در این آموزش فرض می کنیم سیستم عامل سرور Ubuntu است.
ابتدا با SSH به سرور متصل شوید:
ssh root@SERVER_IP
سپس سیستم را به روزرسانی کنید:
apt update && apt upgrade -y
اکنون Ollama را نصب کنید.
طبق دستور رسمی Ollama در لینوکس:
curl -fsSL https://ollama.com/install.sh | sh
پس از نصب، نسخه Ollama را بررسی کنید:
ollama --version
اگر نسخه نمایش داده شد، نصب با موفقیت انجام شده است.
اجرای اولین مدل Llama
یکی از مدل های سبک تر برای شروع، Llama ۳.۲ است.
برای اجرای آن:
ollama run llama3.2
در صورت نبودن مدل روی سرور، Ollama آن را دریافت کرده و سپس اجرا می کند. خود کتابخانه Ollama نیز همین دستور را برای اجرای Llama ۳.۲ ارائه می کند.
پس از اجرا می توانید مستقیماً با مدل گفتگو کنید.
مثلاً:
> سلام، خودت را معرفی کن
مدل پاسخ را مستقیماً در Terminal نمایش خواهد داد.
اجرای نسخه کوچک تر Llama ۳.۲
اگر VPS منابع محدودی دارد، می توانید نسخه 1B را امتحان کنید:
ollama run llama3.2:1b
نسخه 3B نیز با دستور زیر قابل اجرا است:
ollama run llama3.2:3b
طبق اطلاعات کتابخانه Ollama، Llama ۳.۲ در دو اندازه 1B و 3B ارائه شده است.
اجرای Llama ۳.۳ روی VPS
اگر سرور منابع بیشتری دارد، می توانید Llama ۳.۳ را اجرا کنید:
ollama run llama3.3
Llama ۳.۳ در Ollama به عنوان مدل 70B ارائه شده و حجم فایل مدل در کتابخانه فعلی حدود 43GB است.
نکته مهم این است که حجم فایل مدل با میزان RAM موردنیاز در زمان اجرا یکسان نیست. Context و تنظیمات quantization می توانند مصرف حافظه را تغییر دهند.
بنابراین برای اجرای مدل های 70B روی VPS معمولی، صرفاً داشتن فضای دیسک کافی نیست.
بررسی مدل های نصب شده
برای مشاهده مدل هایی که روی VPS دانلود شده اند:
ollama list
نمونه خروجی:
NAME SIZE
llama3.2:latest 2.0 GB
حذف مدل از VPS
اگر دیگر به مدلی نیاز ندارید:
ollama rm llama3.2
برای مشاهده مدل های موجود در سیستم:
ollama list
اجرای Llama از طریق API
یکی از جذاب ترین قابلیت های Ollama این است که می توانید مدل را به برنامه خود متصل کنید.
API محلی Ollama به صورت پیش فرض روی پورت 11434 در دسترس است.
مثلاً می توانید یک درخواست به API ارسال کنید:
curl http://localhost:11434/api/chat
-d '{
"model": "llama3.2",
"messages": [
{
"role": "user",
"content": "یک توضیح کوتاه درباره VPS بنویس"
}
]
}'
Ollama برای مدل های خود نمونه های API با cURL، Python و JavaScript ارائه می کند.
اتصال Llama به Python
اگر با Python کار می کنید، می توانید از کتابخانه Ollama استفاده کنید.
ابتدا:
pip install ollama
سپس:
from ollama import chat
response = chat(
model='llama3.2',
messages=[
{
'role': 'user',
'content': 'VPS چیست؟',
},
],
)
print(response.message.content)
این معماری برای ساخت Backendهای هوش مصنوعی بسیار کاربردی است.
اتصال Llama به JavaScript
برای پروژه های Node.js نیز امکان استفاده از کتابخانه JavaScript وجود دارد:
import ollama from 'ollama'
const response = await ollama.chat({
model: 'llama3.2',
messages: [
{
role: 'user',
content: 'VPS چیست؟'
}
]
})
console.log(response.message.content)
این قابلیت می تواند Llama را مستقیماً وارد معماری یک وب اپلیکیشن کند.
آیا می توان Llama را با GPU اجرا کرد؟
بله.
اگر VPS یا سرور شما GPU مناسب داشته باشد، Ollama می تواند از شتاب دهی GPU استفاده کند.
برای NVIDIA در محیط Docker نیز Ollama استفاده از NVIDIA Container Toolkit را در مستندات خود توضیح داده است.
در عمل، برای مدل های بزرگ، GPU مناسب می تواند تفاوت بسیار محسوسی در سرعت پاسخ گویی ایجاد کند.
اجرای Ollama با Docker
اگر ترجیح می دهید Ollama را داخل Docker اجرا کنید، می توانید از image رسمی استفاده کنید.
برای حالت CPU:
docker run -d
-v ollama:/root/.ollama
-p 11434:11434
--name ollama
ollama/ollama
برای NVIDIA GPU:
docker run -d
--gpus=all
-v ollama:/root/.ollama
-p 11434:11434
--name ollama
ollama/ollama
Ollama برای Docker image رسمی ارائه می کند و اجرای GPU با NVIDIA را نیز مستند کرده است.
امنیت Ollama روی VPS
این بخش را جدی بگیرید.
اگر Ollama را روی VPS نصب کرده اید، نباید API آن را بدون نیاز و بدون لایه امنیتی مستقیماً روی اینترنت عمومی قرار دهید.
پورت:
11434
برای دسترسی محلی مناسب است، اما اگر آن را عمومی کنید باید دسترسی را کنترل کنید.
راهکارهای مناسب:
- فایروال
- Reverse Proxy
- HTTPS
- احراز هویت
- محدود کردن IPهای مجاز
- VPN
- عدم باز کردن پورت ۱۱۴۳۴ برای همه اینترنت
مثلاً اگر API فقط توسط یک Backend روی همان سرور استفاده می شود، بهتر است ارتباط روی localhost باقی بماند.
چطور سرعت Llama را افزایش دهیم؟
سرعت پاسخ مدل به عوامل مختلفی وابسته است.
CPU
در اجرای CPU، تعداد هسته ها و معماری پردازنده اهمیت زیادی دارد.
RAM
مدل باید فضای کافی برای بارگذاری و اجرای خود داشته باشد.
GPU
برای مدل های بزرگ، GPU معمولاً مهم ترین عامل افزایش سرعت inference است.
Quantization
نسخه های quantized می توانند حافظه موردنیاز را کاهش دهند، هرچند ممکن است روی کیفیت خروجی یا سرعت بسته به سخت افزار و نوع quantization اثر بگذارند.
Context Length
هرچه context بزرگ تر شود، مصرف حافظه نیز می تواند افزایش پیدا کند.
Llama روی VPS چه کاربردهایی دارد؟
بعد از نصب مدل، کاربردهای بسیار بیشتری از یک چت ساده خواهید داشت.
🤖 ساخت چت بات اختصاصی
می توانید Llama را به وب سایت خود متصل کنید و یک چت بات اختصاصی بسازید.
👨💻 دستیار برنامه نویسی
با اتصال مدل به محیط توسعه، می توان از آن برای توضیح کد، تولید کد و بررسی خطاها استفاده کرد.
📝 تولید محتوا
Llama می تواند برای تولید، بازنویسی و خلاصه سازی متن استفاده شود.
📚 پردازش اسناد
می توانید معماری RAG ایجاد کنید و مدل را به اسناد داخلی متصل کنید.
🔌 ساخت API هوش مصنوعی
Ollama می تواند لایه اجرای مدل باشد و Backend شما درخواست های کاربران را مدیریت کند.
Llama روی VPS بهتر است یا استفاده از APIهای ابری؟
هر دو روش کاربرد خودشان را دارند.
| ویژگی | Llama روی VPS | API ابری |
|---|---|---|
| کنترل داده | بالا | وابسته به سرویس |
| کنترل زیرساخت | بالا | کم |
| هزینه | هزینه ثابت زیرساخت | معمولاً مصرفی |
| مقیاس پذیری | نیازمند مدیریت | معمولاً ساده تر |
| حریم خصوصی | مناسب برای Self-Hosting | وابسته به سیاست سرویس |
| نگهداری | با شما | با ارائه دهنده |
| سفارشی سازی | بالا | وابسته به API |
اگر تعداد درخواست ها زیاد و الگوی مصرف نسبتاً ثابت باشد، Self-Hosting می تواند جذاب باشد. برای بارهای متغیر یا مدل های بسیار بزرگ، سرویس های ابری ممکن است منطقی تر باشند.
چه زمانی VPS معمولی کافی نیست؟
اگر قصد اجرای مدل های بزرگ مانند 70B را دارید یا چندین کاربر قرار است به صورت هم زمان از مدل استفاده کنند، یک VPS معمولی ممکن است مناسب نباشد.
در این شرایط بهتر است به سراغ:
- سرور GPU
- RAM بالا
- NVMe سریع
- CPU چند هسته ای قدرتمند
- شبکه مناسب
بروید.
برای مدل های کوچک تر، VPS CPU-based می تواند نقطه شروع بسیار مناسبی باشد.
انتخاب لوکیشن برای اجرای Llama
لوکیشن سرور بیشتر به محل کاربران و معماری برنامه بستگی دارد.
اگر کاربران شما در ایران هستند، انتخاب یک سرور خارج با مسیر شبکه مناسب می تواند برای دسترسی به سرویس های بین المللی و زیرساخت های خارجی کاربردی باشد.
البته برای خود inference، محل جغرافیایی سرور به اندازه منابع سخت افزاری و کیفیت شبکه اهمیت ندارد؛ اگر مدل کاملاً روی همان سرور اجرا شود، پردازش اصلی داخل VPS انجام می شود.
نگارنوین؛ سرور مناسب برای پروژه های هوش مصنوعی
برای اجرای Llama، Ollama و سایر مدل های متن باز، انتخاب VPS باید بر اساس منابع واقعی موردنیاز مدل انجام شود.
نگارنوین سرور مجازی خارج را در لوکیشن های مختلف ارائه می کند و بسته به نوع پروژه می توانید منابع CPU، RAM و فضای ذخیره سازی موردنیاز خود را انتخاب کنید.
اگر هدف شما اجرای مدل های بزرگ یا پردازش سنگین است، پیش از خرید VPS باید مشخص کنید مدل موردنظر چند پارامتر دارد، چه quantizationای استفاده می کنید و چند درخواست هم زمان خواهید داشت.
چک لیست قبل از خرید VPS برای Llama
قبل از سفارش سرور این موارد را مشخص کنید:
- نام و نسخه مدل
- تعداد پارامترهای مدل
- حجم مدل
- میزان RAM موردنیاز
- تعداد هسته CPU
- نیاز یا عدم نیاز به GPU
- نوع GPU در صورت استفاده
- ظرفیت NVMe
- تعداد کاربران هم زمان
- Context Length
- حجم درخواست های روزانه
- لوکیشن کاربران
- پهنای باند موردنیاز
این چک لیست جلوی یک اشتباه رایج را می گیرد: خرید VPS صرفاً بر اساس تعداد Core یا RAM و بعد متوجه شدن اینکه مدل انتخاب شده برای آن سخت افزار مناسب نیست.
سوالات متداول اجرای Llama روی VPS
آیا می توان Llama را روی VPS اجرا کرد؟
بله. مدل های کوچک تر Llama را می توان روی VPSهای CPU-based اجرا کرد و برای مدل های بزرگ تر استفاده از GPU و RAM بیشتر توصیه می شود.
بهترین روش نصب Llama روی VPS چیست؟
یکی از ساده ترین روش ها استفاده از Ollama است. Ollama امکان نصب مدل، اجرای آن و استفاده از API را فراهم می کند.
آیا برای اجرای Llama حتماً GPU لازم است؟
خیر. مدل های کوچک را می توان روی CPU اجرا کرد، اما برای مدل های بزرگ و استفاده هم زمان چند کاربر، GPU می تواند عملکرد را به شکل محسوسی بهتر کند.
آیا Llama ۳.۳ روی VPS معمولی اجرا می شود؟
Llama ۳.۳ یک مدل 70B است و مدل آن در Ollama حدود 43GB حجم دارد؛ بنابراین برای اجرای عملی آن باید RAM، quantization، context و در صورت نیاز GPU را جدی در نظر گرفت.
آیا می توان Llama را به سایت متصل کرد؟
بله. با استفاده از API Ollama می توانید Llama را به Backend سایت، Python، JavaScript یا سایر برنامه ها متصل کنید.
آیا اجرای Llama روی VPS امن است؟
می تواند امن باشد، اما باید API، SSH، فایروال، احراز هویت و دسترسی های شبکه به درستی پیکربندی شوند. باز گذاشتن API مدل روی اینترنت عمومی بدون کنترل دسترسی توصیه نمی شود.
جمع بندی
اجرای Llama روی VPS یکی از ساده ترین راه ها برای راه اندازی یک مدل زبانی Self-Hosted است. با ابزارهایی مانند Ollama می توانید بدون درگیر شدن با پیچیدگی های نصب مستقیم مدل، Llama را روی سرور لینوکسی اجرا کرده و از طریق Terminal یا API به آن دسترسی داشته باشید.
برای شروع، مدل های کوچک مانند Llama ۳.۲ گزینه منطقی تری برای VPSهای معمولی هستند. اگر به مدل های بزرگ مانند Llama ۳.۳ 70B، کاربران هم زمان زیاد یا سرعت پاسخ بالا نیاز دارید، باید به سراغ سرورهایی با RAM بیشتر و ترجیحاً GPU بروید.
نکته کلیدی این است که اول مدل را انتخاب کنید، سپس منابع سرور را بر اساس همان مدل تعیین کنید؛ نه برعکس.
