人工智能常见问题解答
汇总大模型、提示词、RAG、AI Agent、机器学习与合规等高频问题,由全国AI服务网整理,给出简明准确的解答。
大语言模型基础
什么是大语言模型(LLM)?
大语言模型是用海量文本训练、基于Transformer架构的深度学习模型,能够理解自然语言并按上下文预测生成文本。它的核心任务是预测下一个词,通过大规模预训练获得语言理解、生成、推理等能力。
大语言模型和传统搜索引擎有什么区别?
搜索引擎从已索引的网页中检索并返回结果链接,信息来自外部且可溯源;大语言模型基于训练学到的模式直接生成文本,不实时查询数据库。前者擅长给出处,后者擅长综合与表达,但可能生成不实内容。
什么是模型的上下文窗口?
上下文窗口是模型一次能够处理的文本长度上限,通常按Token计量。超过窗口的内容需要截断、切分或通过检索方式选择性注入。上下文越长,模型能参考的信息越多,但处理成本通常也越高。
Token 是什么意思?
Token是模型处理文本的基本单位,可能是词、词的一部分或单个字符。中文里一个Token通常对应一到两个汉字。模型的输入输出长度、计费多以Token为单位计量。
什么是模型幻觉?如何避免?
模型幻觉指生成看似合理但不真实的内容。可通过检索增强(RAG)提供事实依据、要求标注来源、在提示词中要求不确定时如实说明,并对关键信息进行人工核实来降低风险,但无法完全消除。
提示词工程
什么是提示词工程?
提示词工程是通过设计和优化输入指令,引导模型输出更符合预期结果的方法。常用技巧包括明确角色、任务拆解、少样本示例、思维链和结构化输出要求。
什么是少样本(Few-shot)提示?
少样本提示是在提示词中给出若干输入与输出的示例,让模型理解期望的格式和风格,无需重新训练即可完成新任务。适合分类、信息抽取、固定格式生成等场景。
什么是思维链(Chain of Thought)?
思维链指让模型在给出答案前展示逐步推理过程,常见于数学和逻辑任务,通常能提升多步推理的准确率。需注意展示的推理是生成的解释,不一定反映真实计算过程。
怎样让AI输出结构化的JSON结果?
在提示词中明确要求输出JSON、给出字段结构与示例,或使用支持结构化输出能力的模型并传入Schema。同时对返回结果做格式校验,必要时设计重试逻辑。
RAG与知识库
什么是RAG检索增强生成?
RAG是在生成答案前,先从外部知识库检索相关资料注入提示词,让大模型基于资料回答的技术。它能缓解模型知识过时和幻觉问题,适合企业知识库、文档问答等场景。
RAG 系统由哪些部分组成?
通常包括文档切分、向量化嵌入、向量数据库、相似度检索、重排序和带引用的答案生成。离线阶段建立索引,在线阶段检索并生成。
什么是向量数据库?
向量数据库专门存储和检索高维向量,通过近似最近邻搜索在海量向量中快速找到相似项,是语义检索的基础设施。常见的索引结构有HNSW、IVF等。
什么是Embedding嵌入模型?
嵌入模型把文本等数据转换为向量,使语义相近的内容在向量空间中距离更近,从而支持用向量距离衡量语义相似度。选择时需关注语言支持与领域适配。
RAG 检索不准怎么优化?
可从几方面入手:优化文档切分策略、更换更适配的嵌入模型、采用关键词与向量的混合检索、引入重排序模型、补充元数据过滤,并用标注数据评估检索召回率。
AI Agent
什么是AI Agent智能体?
AI智能体是以大模型为核心,能感知输入、规划任务、调用工具并完成多步目标的AI系统。与普通对话相比,它强调工具使用和多步流程管理。
什么是工具调用(Function Calling)?
工具调用是让模型输出结构化调用请求、由程序执行外部函数并把结果回传的机制。开发者以Schema描述工具,模型按需调用,从而连接搜索、数据库、API等外部能力。
AI Agent 有哪些典型组成?
一般包括模型(大脑)、工具(执行能力)、记忆(短期上下文与长期存储)和规划(任务拆解与调整)四部分,通过"观察—思考—行动"循环推进任务。
机器学习基础
监督学习和无监督学习有什么区别?
监督学习使用带标签数据,学习输入到输出的映射,用于分类和回归;无监督学习在无标签数据中发现结构,用于聚类和降维。核心区别在于训练数据是否有标签。
什么是深度学习?
深度学习是机器学习的一个分支,使用多层神经网络自动学习数据的层次化特征表示。它在图像、语音、自然语言处理等任务上取得显著效果,是大模型的技术基础。
Transformer 架构为什么重要?
Transformer基于自注意力机制,能并行处理序列并捕捉长距离依赖,克服了早期循环模型的局限,成为现代大语言模型的主流基础架构。
AI工具使用
常见的AI工具有哪些类型?
按用途大致分为:对话助手、图像生成、编程辅助、语音音视频处理、办公效率和开发框架等类型。选择时应结合具体任务、语言支持、数据隐私与成本综合判断。
如何选择适合自己的AI对话工具?
可从任务类型(写作、编程、长文档)、中文能力、上下文长度、是否需要API集成、数据隐私要求等方面评估,并通过实际任务试用对比效果。
AI安全与合规
使用AI生成内容发布时需要注意什么?
应核实内容准确性、尊重版权、保护数据隐私、按规则标注AI生成来源,并明确发布者对内容承担责任,避免将未核实内容作为事实发布。
如何降低AI应用的数据隐私风险?
避免向公共AI服务输入敏感信息,明确数据处理与存储规则,控制访问权限,必要时选择支持私有化部署的服务,并对相关人员开展安全培训。