8月20日
10:12
10:12官方一手arXiv: Anthropic@José A. Perdiguero López, Miguel A. Durán-Olivencia
Flama是一个开源Python框架,基于Asynchronous Server Gateway Interface(ASGI),用于开发部署生产级web API、机器学习服务和大型语言模型(LLM)应用;其子系统包含依赖注入系统,可从类型注解解析参数,还支持Pydantic等格式;内置JWT认证、WebSocket端点等功能,可通过命令行界面管理应用。
推荐理由:Flama这个开源框架,能帮你开发部署生产级API和LLM服务,和普通框架比更统一架构,还能自动处理多种模型格式。