大网数据广告活动
Linux 与通用命令

llama-cli · 常用命令示例

· 52CE 我爱测

Command-line interface for LLM inference. > More information: <https://github.com/ggml-org/llama.cpp#llama-cli>.

llama-cli

Command-line interface for LLM inference. More information: https://github.com/ggml-org/llama.cpp#llama-cli.

  • Start up LLM [m]odel and interface:

llama-cli

  • Start with setup prompt [c]ontext size:

llama-cli

  • Start with set offload [n]umber of layer [g]pu [l]ayers:

llama-cli

  • Start with sending content as [sys]tem prompt from a [f]ile:

llama-cli

  • Start with sending content in [f]ile as first prompt:

llama-cli

来源:tldr-pages contributors · 作者与贡献记录 · CC BY 4.0。离线整理了版式、链接和媒体显示。

资料来源与适用范围

资料来源
tldr-pages contributors
适用范围
请按文中版本与环境说明核对
内容语言
中文;命令、路径和错误标识保留技术原文
本地收录日期
2026-11-15
授权说明
CC BY 4.0

正文与所需资源由本站本地存储。查看来源及更新记录 ↗

请按适用版本和实际日志确认原因;本站没有对每一种系统或设备逐项执行文中的操作。