• AI（人工智能）：通过算法模拟人类智能的技术系统
• AGI（通用人工智能）：具备类似人类广泛认知能力的AI，能跨多个领域自主解决问题（尚未实现，替代方案A2A，多Agent分工协作跨领域解决问题）
• GPT：基于Transformer架构的生成式预训练模型
• TTS（Text To Speech 语音合成）：文字转自然语音技术
• ASR（Automatic Speech Recognition 自动语音识别）：语音转文字技术
• AIGC（AI Generate Content）：人工智能生成内容统称
• MidJourney：文生图扩散模型应用
• ML（Machine Learning 机器学习）：通过数据训练模型实现预测决策
• DL（Deep Learning 深度学习）：基于多层神经网络的特征抽象技术
• 神经网络：仿生物神经元连接的计算模型，层层传递处理信息
• NLP（自然语言处理）：计算机理解与生成人类语言的技术，涉及翻译、文本生成、情感分析等多种应用
• CV（计算机视觉）：机器解析视觉信息的技术
• 算力：计算机处理数据的能力基准
• Transformer：基于注意力机制的模型架构
• OpenAI：知名AI研究机构，ChatGPT诞生的摇篮
• Hugging Face：开源AI模型社区，AI“应用商店”
• Prompt（提示词）：引导AI输出的指令文本
• 生成式AI：创造全新数字内容的技术
• LLM（大语言模型）：处理海量语言信息的AI系统
• RL（Reinforcement Learning）：通过奖惩机制不断优化决策过程，根据反馈提升表现
• 训练集（Data Sets）：用于模型训练的数据集合
• 过拟合：模型过度拟合训练数据特征，失去创新性
• 迁移学习：通过将已学知识迁移到新领域，帮助AI更高效地适应新任务
• 特征提取：从数据中识别并提取出最具辨识度的特征，帮助模型更好地理解和处理信息
• 参数调整：优化模型内部配置的过程
• 监督学习（Supervised learning）：用标注数据训练模型
• 无监督学习（UnSupervised learning）：自主发现数据规律的模式
• 半监督学习（Semi-supervised learning）：结合标注与非标注数据训练
• GAN（生成对抗网络）：生成器与判别器对抗训练框架，模拟生成数据与评估数据质量的博弈
• Fine-tuning（微调）：模型针对性优化
• RAG （Retrieval-Augmented Generation 检索增强生成）：AI从外部知识库（向量数据库）检索相应知识重生成一个增强的问题并最终生成结合外部知识库的回答
• Agent（智能体）：基于目标（Goal）通过传感器（sensor）感知（Observation）环境并通过执行器（executor）作用于（Action）该环境事物的都可以被称为智能体
• 微调方法
  • Full微调：Full微调是指在微调过程中更新整个模型的所有参数，所有层和参数都会被更新。Full微调通常用于对模型进行全面的调整，以适应新的任务或领域。
  • Freeze微调：Freeze微调是指在微调过程中冻结（不更新）部分模型的参数。冻结的参数在微调期间将保持不变。通常会冻结模型的底层（包含一些通用的语言表示）部分，而知更新模型的高层（负责进行特定任务学习）参数。
  • LoRA微调：LoRA（Layer-wise Optimal Relevance Adjustment）是一种特定的微调策略，通过在不同层之间引入可学习的关联系数，调整模型在每个层级上的相关性。这种方法允许不同层级之间的信息传递和调整，以更好的适应微调任务。LoRA微调可以通过在微调过程中训练这些关联系数实现。
• 自回归（自我影响）：大模型生成并选择的一个token会影响它选择下一个token的机制
• 深度学习中的端到端（end2end）：模型可以直接利用输入数据而不需要其他处理