在使用 LLM 构建产品时没有人谈论所有困难的事情

Phillip Carter 分享了为 Honeycomb 构建 LLM 功能的经验教训——通过构建用于将人类问题转化为 Honeycomb 查询过滤器的查询助手来之不易的知识。这写得非常有趣。 “使用嵌入并向点积之神祈祷，无论您使用什么距离函数从嵌入中提取相关子集实际上都是相关的”。