大模型日报

 

2024-05-23

 

大模型资讯

 

1. 减少生成型AI和大型语言模型中的幻觉现象

 

• 摘要: Phocuswright即将发布全面报告《从流行词到实际效益：跟上旅游业中生成型AI的步伐》。该报告预览指出，降低生成型人工智能及大型语言模型在生成内容时出现的幻觉现象是行业关注的焦点。此举旨在提高模型的可靠性和实用性，进一步促进AI技术在旅游领域的应用。

 

1. 研究发现顶级语言模型的安全保护措施易于被绕过

 

• 摘要: 最新研究揭露，即便是目前公开可用的最大的语言模型（LLMs）中的安全保护措施也能被轻易绕过。该研究表明，现有的一些机制在防止模型被滥用方面存在缺陷，可能对确保人工智能的安全和可靠性构成挑战。

 

1. 减轻大型语言模型幻觉的新方法

 

• 摘要: 大型语言模型（LLMs）是基于人工神经网络的架构，能够处理、生成和操纵各种文本。近期，研究人员发现了一种新方法，可以有效减轻这些模型在处理信息时产生的幻觉问题，提高了模型的准确性和可靠性。

 

1. 人工智能公司Anthropic揭秘大型语言模型内部机制

 

• 摘要: 近期，人工智能公司Anthropic的研究人员宣称他们已经找到了大型语言模型内部运作的线索。这一发现可能有助于科学家和工程师更好地理解这些被称为“黑盒”的复杂系统，进而提升人工智能的透明度和可解释性。

 

1. Anthropic破解AI黑盒之谜

 

• 摘要: 人工智能的神经网络工作原理在很大程度上对于创造者来说都是个谜。然而，Anthropic的研究人员已经找到了一种方法来探查这些黑盒系统的内部运作。他们的发现可能有助于提高人工智能的透明度和可解释性。

 

1. 华为推出阿拉伯语大型语言模型及埃及首个公共云服务

 

• 摘要: 华为技术有限公司发布了一个阿拉伯语的大型语言模型，并在开罗启动了埃及首个公共云服务。这是华为在推动生成式人工智能技术方面迈出的重要一步，旨在探索并抓住新的商业机会。

 

1. 研究发现：AI模型在理解心智方面挑战人类但难以把握微妙之处

 

• 摘要: 最新发表在《自然·人类行为》杂志的研究比较了大型语言模型与人类在理论心智能力上的表现。结果显示，尽管AI在某些方面能与人类相媲美，但在理解情感的微妙差别和复杂社交互动方面仍存在挑战。

 

1. 马里兰大学研究者开发自动文本隐私保护框架

 

• 摘要: 马里兰大学的研究者们提出了一种新的自动文本隐私保护框架，该框架通过强化学习对大型语言模型进行微调。这一框架旨在提高文本数据的隐私性，防止敏感信息泄露，同时保持文本的可用性和信息的完整性。

 

1. 亚马逊AWS AI实验室推出SpeechVerse：音频AI的通用性探索

 

• 摘要: 亚马逊AWS AI实验室最新研发的SpeechVerse展示了其在音频AI领域的突破。这项技术基于大型语言模型(LLMs)，在各种自然语言处理任务中表现出色，并展现了强大的理解和执行能力。SpeechVerse旨在进一步拓展语音技术的应用范围，提升机器对语音的理解和响应能力。

 

1. 小型语言模型崛起：小而强大的替代选择

 

• 摘要: 小型语言模型（SLMs）正在成为大型语言模型（LLMs）的有力竞争者。与庞大的LLMs相比，SLMs在多方面展现出优势，包括更低的计算成本、更高的效率和灵活性等，逐渐受到业界的关注和青睐。

 

大模型产品

 

1. Narrato AI批量内容生成器

 

• 摘要: Narrato AI能在几分钟内批量生成数百至数千篇内容。适用于产品描述、社交媒体帖子、广告文案、登陆页面、博客文章、电子邮件等，支持预设和自定义AI模板。

 

1. Ivee：B2B领域影响者营销平台

 

• 摘要: Ivee平台专注于B2B影响者营销，能够通过AI搜索引擎在LinkedIn、YouTube、Substack及Apple Podcast上识别和评估意见领袖，提供独特的KPI进行受众洞察，并实现大规模的影响者合作与接洽。

 

1. Octoverse：构建高效AI应用代理

 

• 摘要: Octoverse允许开发者在应用中集成AI代理，这些代理能够理解并完成用户任务，适用于购物、旅行预订、视频流媒体及会议应用等场景，其基础模型在功能调用上超越了GPT-4o。

 

1. Findr 2.0：工作智能搜索助手

 

• 摘要: Findr 2.0是一款AI助手，能够回答问题、查找信息、撰写文档。它通过整合Slack、Notion、Gmail等应用信息，提供即时相关答案，提升工作效率。

 

1. Copilot+ PC：超快AI智能新窗口PC

 

• 摘要: Copilot+ PC定义了Windows PC的新极限。搭载高达40+ TOPS的强劲芯片，全天候电池续航，支持最先进的AI模型，让你的PC使用体验超越以往。

 

1. Neolocus：AI室内设计师

 

• 摘要: Neolocus是您的个人AI室内设计师，帮您设计和布置空间。只需上传房间照片，即可立即开始设计！

 

1. CANVID：AI驱动屏幕录制工具

 

• 摘要: CANVID for Windows，一款新一代AI屏幕录制软件。不仅能捕捉屏幕动态，还能自动优化画面，如平滑鼠标移动、自动变焦和运动模糊效果，提供高质量的演示、教程和宣传视频制作体验。

 

1. Nowadays：智能企业活动策划助手

 

• 摘要: Nowadays是一款智能助手，专为策划企业活动而设计。用户只需输入活动细节，AI即可自动联系场地并处理谈判等繁琐工作，大幅简化活动组织流程。

 

1. Tactiq Spaces: 会议知识库构建

 

• 摘要: Tactiq Spaces允许团队从会议记录中构建知识库。用户可将记录分享到不同的项目空间，邀请团队成员协作添加会议内容，并利用AI技术从会议或空间中生成洞察，确保团队信息同步。

 

1. 垂直洞察：精准定位ICP，优化GTM策略

 

• 摘要: 垂直洞察提供快速ICP识别工具，借助AI技术帮助企业节省时间，降低成本，聚焦理想客户。旨在最大化收入，缩短销售周期，并减少客户流失，迅速锁定产品市场契合度。

 

大模型论文

 

1. 跨层注意力减少变压器KV缓存

 

• 摘要: 本文提出了跨层注意力（CLA）设计，通过在相邻层间共享键值（KV）头，进一步减少变压器模型的KV缓存大小，同时保持了与多查询注意力（MQA）相近的准确度，有效提升了大规模语言模型的解码效率。

 

1. BiomedParse: 全面生物医学图像解析

 

• 摘要: BiomedParse是一种生物医学基础模型，能够跨9种成像模式对82种对象进行分割、检测和识别，通过联合学习提高各项任务的准确性，大幅优化生物医学图像分析。

 

1. 能量等级对齐：化学空间搜索

 

• 摘要: 本文提出了一种名为能量等级对齐（ERA）的算法，利用显式奖励函数来优化自回归策略，实现了高效的化学分子搜索，并且在小规模偏好观测下表现优异。

 

1. 基于熵优化的激活函数搜索方法

 

• 摘要: 本文提出了一种基于信息熵理论的激活函数优化方法（EAFO），通过这种方法衍生出改进的ReLU激活函数CRReLU，并在多个数据集上验证了其优越性。

 

1. 推理聚合：增强大型语言模型答案选择

 

• 摘要: 本文提出了一个层次化的推理聚合框架AoR，通过评估推理链来选择答案，并根据任务复杂性动态调整推理链数量。实验表明，AoR在复杂推理任务上优于现有集成方法，并提升了性能上限。

 

1. 多利益相关者决策：LLMs的SKIG框架

 

• 摘要: 本文提出了Skin-in-the-Game（SKIG）框架，旨在通过考虑多方利益相关者视角来增强大型语言模型（LLMs）在道德推理和伦理决策领域的表现。研究通过责任模拟、共情练习和风险评估验证了SKIG在多个道德推理基准上的效果。

 

1. 混合语言情感与仇恨言论预测

 

• 摘要: 研究了混合语言文本中的情感分析和仇恨言论检测。创建了针对英语-印地语和英语-斯洛文尼亚语的双语预训练语言模型，并对比了多种语言模型在社交媒体文本中的表现。

 

1. 高效软件评审预测模型研究

 

• 摘要: 本文提出了软件分析中的新挑战问题，即如何利用有限的示例训练预测模型，以辅助专家在软件评审过程中做出决策。研究表明，仅需12至30个标签即可构建有效模型。

 

1. 基于梯度的多样高质翻译指令数据选取

 

• 摘要: 针对机器翻译指令微调中数据多样性与质量挑战，本文提出一种新颖的梯度方法，通过影响函数和小规模高质种子数据集自动选择高质量多样化的微调数据。通过对WMT22和FLORES任务的广泛实验，验证了方法的有效性和泛化能力。

 

1. 基于大型语言模型的文图生成研究

 

• 摘要: 本文研究了使用大型语言模型（LLMs）作为文本编码器，以改善文到图生成中的语言理解。提出了一种三阶段训练流程，通过轻量级适配器有效整合LLMs，实现多语言支持和更长输入上下文，提升图像生成质量。

 

大模型开源项目

 

1. THUDM：开源多模态GPT4V级模型

 

• 摘要: THUDM是一个基于Llama3-8B的开源多模态GPT4V级别模型项目。它使用Python语言编写，旨在提供类似GPT-4的AI能力。

 

1. Devon：开源AI编程助手

 

• 摘要: Devon是一个名为entropy-research的Github热门AI项目，旨在提供一个开源的AI编程搭档。该项目使用Python语言编写，能够帮助开发者提高编码效率，解决编程难题。

 

1. mlc-ai：浏览器内大型语言模型

 

• 摘要: mlc-ai项目致力于将大型语言模型和聊天功能带入网络浏览器中。全部运作在浏览器内，无需服务器支持，使用TypeScript语言编写。

 

1. OpenBMB：手机上的迷你GPT-4V模型

 

• 摘要: OpenBMB项目推出了MiniCPM-Llama3-V 2.5，这是一个类似GPT-4V水平的多模态语言模型(MLLM)，可以在手机上运行，使用Python语言编写。

 

1. naklecha：Llama3矩阵乘法实现

 

• 摘要: naklecha项目是一个基于Jupyter Notebook的AI项目，专注于实现llama3算法，逐个矩阵乘法进行处理和计算，为深度学习和数值分析提供了新的工具。

 

1. mendableai：网站转换为LLM数据

 

• 摘要: mendableai项目，可将整个网站内容转化为适合大型语言模型（LLM）的markdown或结构化数据。支持抓取、爬取、搜索及数据提取等功能，基于TypeScript语言开发。

 

1. CodiumAI：智能测试生成工具

 

• 摘要: CodiumAI Cover-Agent是一款用Python编写的AI工具，专注于自动化测试生成和代码覆盖率提升，旨在帮助开发者高效地发现和修复代码中的错误。

 

1. Khoj AI：个人第二大脑助手

 

• 摘要: Khoj AI是一款旨在成为用户第二大脑的AI助手。它能通过强大的本地或在线大型语言模型（如GPT-4或Mistral）回答问题，支持自托管或网络应用，并可通过多种平台如Obsidian、Emacs等访问。

 

1. danielmiessler开源AI增强框架fabric

 

• 摘要: fabric是一个开源框架，旨在使用AI技术增强人类能力。该框架采用模块化设计，通过众包AI提示集合解决特定问题，可广泛应用。基于Python语言开发。