https://haitang.app/ 海棠诗社：每一首诗都有简介、注释、翻译、评价

周刊关注 Python、机器学习、深度学习、大模型等硬核技术

本期目录：

• 大模型

• • OpenAI发布了最新大模型GPT-4o

  • 腾讯开源旗下混元文生图大模型

  • 直接在浏览器本地运行Phi-3模型

  • DeepSeek-V2：尖端开源 MoE 模型！

  • 阿里云发布通义千问 2.5

  • 通义千问Qwen1.5-110B 超1000亿参数

  • 零一万物开源了 yi-1.5 模型

  • gemma 2b - 10m context 模型的代码实现

• 小工具

• • lgm：生成高质量3d模型

  • 手绘风 svg 的 react 渲染器

  • 一个免费的开源插画网站

  • v2ex 被丑头像包围了，丑头像生成器

  • 如何下载视频号视频

  • 高性能的大数据无代码平台：teable

  • 嵌套网页展示搜索结果的产品globe

  • 一个微信聊天记录导出工具

• 知识库

• • 推荐阅读：《你好 gpt-4o》

  • awesome 中文大模型@GitHub

  • Gemini API Cookbook

• 随便看看

• • openai 是如何连续三次羞辱 google 的？

unsetunset大模型unset unset OpenAI发布了最新大模型GPT-4o

OpenAI直接开放GPT-4o，能力横跨语音、文本和视觉，免费用户也可以直接用！https://chatgpt.com/

在API方面，GPT-4o的价格是GPT-4-turbo的一半，速度却是GPT-4-turbo的两倍，速率限制也高5倍。

最惊艳的是OpenAI在现场的展示，在与GPT-4o语音对话过程中，三人随意打断，GPT-4o反应极快，并且语气相当丰富，像极了在跟人类聊天

腾讯开源旗下混元文生图大模型

腾讯正式公布，旗下混元文生图大模型已完成升级，并对外开源。此次升级的模型采用了与sora相同的dit架构，不仅能够支持文生图，也能作为视频等多模态视觉生成的基础。这是业界首个中文原生的dit架构文生图开源模型，支持中英双语输入及理解，15亿参数。

项目地址：https://dit.hunyuan.tencent.com

官网排队：https://image.hunyuan.tencent.com

github：https://github.com/tencent/hunyuandit

试玩：https://huggingface.co/spaces/Xenova/experimental-phi3-webgpu

Phi3-WebGPU正是为在浏览器端本地运行模型的探索：

️ 模型下载约2.3GB（下载一次并缓存） 加载模型时间：50秒 推理速度：中文约1.9 tokens/s，英文1.7 tokens/s ⏳ 首token返回延迟：20秒

DeepSeek-V2：尖端开源 MoE 模型！

体验：https://chat.deepseek.com/coder 模型下载：https://huggingface.co/deepseek-ai

亮点：

在 AlignBench 中排名前 3，超过 GPT-4，接近 GPT-4-Turbo。在 MT-Bench 中排名顶级，可与 LLaMA3-70B 相媲美，并优于 Mixtral 8x22B。专攻数学、代码和推理。支持 128K 上下文窗口。

✨ 特点：

deepseek 较快的速度+ 不错的质量+ 超便宜的价格，这才是大模型作为新一代的基础设施该有的样子~

官方还开了一个仓库，专门收集集成deepseek的应用，大家也可以关注下：https://github.com/deepseek-ai/awesome-deepseek-integration

阿里云发布通义千问 2.5

通义千问Qwen1.5-110B 超1000亿参数

Qwen1.5-110B是Qwen1.5系列中的新成员，也是该系列首个拥有超过1000亿参数的模型。

该模型在基础模型评估中表现出色，与Meta-Llama3-70B相媲美，并在聊天模型评估（包括MT-Bench和AlpacaEval 2.0）中表现出色。

模型支持多语言，包括英语、中文、法语、西班牙语等，上下文长度可达32K令牌。

模型特性：

•架构：采用Transformer解码器架构，具有分组查询注意力（GQA）。•性能：在标准评估和聊天模型评估中均展现卓越性能。•多语言支持：支持多种语言，上下文长度可达32K令牌。

根据官方公布的评测结果

Qwen1.5-110B模型的评测结果略略超过Llama-3-70B和Mixtral-8×22B。

Qwen1.5-110B模型在综合理解（MMLU）、数学推理（GSM8K和MATH）方面得分比Llama-3-70B略高一点点，是几个模型中最强的。而在复杂推理任务ARC-C上则略低于Mixtral-8×22B模型。在编程测试HumanEval得分则是远超另几个模型，而MBPP编程测试上则低于Mixtral-8×22B模型。

详细：https://qwenlm.github.io/blog/qwen1.5-110b/

yi-1.5 有 6b、9b、34b三个型号，都采用apache 2.0许可证。

• 模型在 4.1万亿 token 上训练的

• 在 300万个指令调优样本上进行了精细调整

• 34b 型号一些指标超过了 qwen 的 72b

• 6b 和 9b 型号也成功超越了 mistral 的 7b v0.2 版和 gemma 的 7b 型号

模型下载：https://huggingface.co/collections/01-ai/yi-15-2024-05-663f3ecab5f815a3eaca7ca8

infiniattention 论文地址：https://arxiv.org/abs/2404.07143

transformer-xl 论文地址：https://arxiv.org/abs/1901.02860

模型下载地址：https://huggingface.co/mustafaaljadery/gemma-10m-safetensor

github repo: https://github.com/mustafaaljadery/gemma-2b-10m

对大模型上下文能达到 8k => 10m 大幅提升的技术说明：大型语言模型（llms）在内存方面的最大瓶颈是键值（kv）缓存。在传统的多头注意力机制中，它呈二次方增长，因此限制了序列长度的大小。本文的方法按照 infiniattention 所概述的，将注意力分割到局部注意力块中。采用这些局部注意力块，并对局部注意力块应用递归，以获得最终的 10m 上下文全局注意力的结果。许多想法灵感来自于 transformer-xl 论文。

支持文字生成模型、图片生成模型，分辨率512*512，5秒内即可生成。

在线体验：https://huggingface.co/spaces/ashawkey/lgm

项目地址：https://me.kiui.moe/lgm/

github：https://github.com/3dtopia/lgm

想做手绘风格的ui几乎没有门槛了推荐用这个渲染手绘风 svg 的 react 渲染器：https://github.com/bowen7/react-rough-fiber

用法很简单，只要把svg图片用 组件包裹，就能把svg转成手绘风格。详细使用文档：https://react-rough-fiber.amind.app

网址：http://opendoodles.com

1.免费丰富的插画，支持在线编辑 2.支持导出svg、png等矢量图 3.如果需要更进一步的设计，支持定制服务

很有意思的地方是，作者分享了他做这个产品的初衷，在他刚开始做设计师的时候，周围没有人教，而且没钱买软件，因此不得不盗版软件、偷科技杂志里的光盘，学到了很多酷的平面设计。

现在做了open doodles，这些插画资源遵循开放设计的理念，允许用户自由地复制、编辑、重新混合、分享或重新绘制，而不受版权或数据库法的限制。

生成：https://txstc55.github.io/ugly-avatar/