大模型应用 - 主题 - twt企业IT交流平台

热点

· steven　擅长领域：云计算, 容器, 容器云

77 会员关注

金融行业积极进行金融科技转型，大模型无疑是一个高效的赋能工具。大模型的应用也面临着数据、算力、合规和安全、人才、架构等问题和挑战。大模型应用场景在于生成式AI场景，需要强大、专业的知识库的支持，甚至是跨领域知识库的支持。...(more)

端侧大语言模型应用于终端智能系统，需考虑轻量敏捷、安全稳定和成本等因素。技术包括量化压缩和数据重排等，应用广泛于医疗、供应链、人才服务、工业、办公自动化、智能制造、保险、金融风控等领域，具隐私安全性高、不受网络环境限制的优势。...(more)

专栏：趋势观点

1 会员关注

本文介绍了如何基于开源大模型快速构建本地知识库应用，包括知识库构建需求、数据挖掘和价值利用、语义知识检索、LLM大模型概述、知识库问答实现思路等方面。同时介绍了选择大模型的三个方面：业务需求、模型效果和模型性能。最终展示了RAG系统在处理大规模信息检索和理解任...(more)

专栏：趋势实践

银行大模型应用·2024-01-10

3 会员关注

几乎所有在线服务都在收集我们的个人数据，并可能将这些数据用于训练 LLM 。然而，模型会如何使用这些用于训练的数据则是难以确定的。如果在模型的训练中使用了诸如地理位置、健康记录、身份信息等敏感数据，那么针对模型中隐私数据的提取攻击（ Data extraction attack ）将会造...

"大模型应用设计与实现指南"：稳定输出、新鲜数据、Agent、Memory、RAG、Prompt、微调模型、小众场景、盈利模式，快速满足长尾需求。