阅读anthropic building-effective-agents 文章有感而发

学习 

本文作者阅读了anthropic的"building-effective-agents"文章后有所感悟,探讨了智能创作、workflow和agent的相关内容。文章介绍了工作流程的预定义代码路径编排LLM和工具的系统,以及作者对agent核心的理解。作者认为,工具接口定义描述需要足够清晰,以便模型能够准确使用工具。同时,作者还讨论了模型返回结果的格式化控制问题。最后,作者表示将继续关注智能创作领域的agent发展,并欢迎大家关注其公众号进行讨论。

fast-graphrag 探索(4)- 我把模型服务干崩了!

学习 

文章摘要:本文主要描述了小胖在使用fast-graphrag模型处理研报数据的过程中所遇到的问题及解决方法。文章首先介绍了小胖尝试用fast-graphrag模型插入研报数据时发现数据结果意外少,然后通过检查代码找到了是因为n_checkpoints参数设置不当导致的问题。接着,小胖面对并发量过高导致的模型服务崩溃问题,通过限制并发数成功解决了问题。文章关键词为python,fast-graphrag探索,AI,rag,开源。

大升级!LLM应用监控、测试、优化一步到位!

学习 

本文介绍了使用langfuse工具在开发基于检索增强生成(RAG)模型应用时的监控追踪方法。文章详细描述了langfuse的功能,包括LLM可观测性、提示管理、LLM评估、数据集管理等。文章还介绍了langfuse最近的v3.0.0大版本升级,包括引入Async Worker、Redis、Clickhouse和S3 / Blob Storage等技术来提升系统的可扩展性、性能和数据处理能力。文章通过实例展示了如何使用langfuse进行trace、提示词管理,并总结了langfuse在LLM应用开发生态系统中的作用。最后,文章呼吁读者关注公众号并分享使用langfuse的经验和想法。