AI & Machine Learning
API
大模型 API 是 AI 应用的入口——无论你用什么框架包装,底层调的都是各家模型的 REST API。
它是什么
各大 AI 厂商(OpenAI、Anthropic、DeepSeek、Google 等)都提供云端大模型推理 API,通过 REST API 或 SDK 调用。核心能力包括文本生成、推理、视觉理解、Function Calling、流式输出等。大部分厂商兼容 OpenAI 的 API 格式,切换成本很低。
为什么重要
API 是 AI 应用的第一道门。不管你用 LangChain 还是裸调,最终都是在调某家的模型 API。理解 token、temperature、system prompt、function calling、streaming 这些通用概念,就能在任何框架和任何模型之间自由切换,不绑定某一家。
核心概念
TokenSystem PromptTemperatureFunction CallingStreamingContext Window
我的使用体验
日常调用多家 API。代码生成用小而快的模型(DeepSeek、o4-mini),复杂推理上强模型(Claude Opus、GPT-4o)。Streaming 对用户体验提升巨大,所有项目都会开流式输出。选 API 的核心考量:价格、延迟、推理质量、上下文长度。