How Long Prompts Block Other Requests - Optimizing LLM Performance
AI 速览 长提示会阻塞其他请求，需优化LLM性能。
行业追踪 · 当日动态流 4 条报道
当日 24h 要点速览
-
Hugging Face · 长提示会阻塞其他请求，需优化LLM性能。
-
Hugging Face · Featherless AI 现已上线 Hugging Face Inference Providers。
-
Hugging Face · Hugging Face推出Kernel Hub，官方提供5分钟快速入门教程。
要闻精选
Featherless AI on Hugging Face Inference Providers 🔥
AI 速览 Featherless AI 现已上线 Hugging Face Inference Providers。
Learn the Hugging Face Kernel Hub in 5 Minutes
AI 速览 Hugging Face推出Kernel Hub，官方提供5分钟快速入门教程。
Bringing the magic of AI to Mattel’s iconic brands
OpenAI and Mattel are partnering to integrate AI into iconic brands such as Barbie and Hot Wheels, aiming to enhance creative development, streamline workflows, and create new ways for fans to engage.
社区音量 · 领军人物与专家观点 X / 社区精选
Demis Hassabis @demishassabis · 2 小时前
祝贺科研团队！将大模型多智能体诊断系统应用于真实前瞻性临床试验，取得令人振奋的准确度突破。
Andrej Karpathy @karpathy · 4 小时前
当端侧小模型的推理能力超越两年前的千亿大模型时，软件的系统架构将彻底重塑，智能体正在成为原生操作系统层。
Guillermo Rauch @rauchg · 6 小时前
毫秒级启动、与模型解耦的极简 CLI 工具是未来。内置 MCP、Skills 与子智能体后，终端将重焕新生。
Ethan Mollick @emollick · 8 小时前
如今已有十余款可在现代移动设备上全本地运行的紧凑模型，整体表现逼近甚至超越昔日的 GPT-4 基准。
产品发布 · Show HN & Product Hunt 当日发布
开源热榜 · GitHub Trending Trending
专为智能体打造的轻量技能协议工具包，支持极简 npm / npx 直接调用。
功能完备的本地模型交互与多智能体统一管理控制台界面。
微软官方 1-bit LLM 推理与训练框架，针对能效与端侧极致优化。
低显存环境下运行超大参数模型的分层推理引擎，大幅降低本地部署门槛。
模型生态 · OpenRouter 调用排名 & 新模型 24h 统计
Top 模型调用份额 (Tokens)
01
DeepSeek V4.1 Flash DeepSeek · 6.02T
02
Step 5 Preview StepFun · 3.25T
03
GLM 5.3 Flash Zhipu AI · 2.03T
04
Claude Opus 5.5 Anthropic · 1.42T
05
GPT-6 Luna OpenAI · 1.18T
06
Nemotron 3 Ultra NVIDIA · 1.05T
近期模型上线与定价
Muse Wonder Meta · 1.0M ctx · 今日
$4.00 / $20.00 Nemotron 3.5 Bolt NVIDIA · 256k ctx · 昨日
免费调用 MiniMax Abab 7 MiniMax · 512k ctx · 前日
$0.80 / $2.40 融资并购 · 创投交易 当日记录
$16M 创投披露
CoinDCX确认已停用钱包造成1600万美元损失，而数日前CEO Sumit Gupta刚将泄露报道称为“虚惊一场”。
VentureAI Deal
$2.5M 创投披露
俄勒冈警方要求一家地方新闻媒体支付250万美元，以获取关于一名警察的记录。
VentureAI Deal
$500M 战略并购
Xbox拒绝了Netflix提出的5亿美元收购要约。
VentureAI Deal