🤠【AIGC每日新闻】
【OpenAI推出工具"Transformer Debugger"，帮助研究语言模型的具体行为】OpenAI的Superalignment团队成功研发并推出了一款名为"Transformer Debugger"（简称TDB）的高效工具，旨在深入研究小型语言模型的精细运作过程。这款工具巧妙地将自动化理解技术与稀疏自动编码器相融合。这款工具的强大实用性体现在，用户能在编写代码之前进行快速的初始探索，并且能实时干预正向传播过程，观察这背后对特定模型行为的影响力。例如，"为何模型在接收到特定提示后，选择输出token A而不是token B？""为何在接收到某一提示后，注意力机制会专注于token T？"等问题，均能通过Transformer Debugger找到答案。TDB通过识别导致模型特定行为的特定组成元素（例如神经元、注意力层、自动编码器的隐层变量等），并且能展示出自动生成的解析，以阐明是何种因素最直接地引发了这些神经元或机制的激活。更进一步地，TDB能追踪这些神经元或者机制之间的相互关联，帮助用户理解深度学习模型的内部电路工作方式。这次公布了一系列工具包括神经元观测工具，激活服务器，以及模型等部分。神经元查看器是基于React的应用程序，其承载了TDB以及关于各个模型组件的相关信息。同时，激活服务器作为后端服务，能对主题模型进行推断分析，为TDB提供所需数据，同时也能从公共的Azure存储桶中读取和提供数据。至于模型部分，则是一个为GPT-2模型及其自动编码器设计的简易推理库，内部集成了抓取激活钩子的功能。参考博客链接：https://github.com/openai/transformer-debugger
【首款大规模文本到视频提示数据集"VidProM"发布】Sora的出现为文本到视频扩散模型带来了新的时代，它在视频生成和潜在应用方面带来了重大的进步。然而，Sora以及其他文本到视频扩散模型，高度依赖于提示，而且没有大规模公开可用的对文本到视频提示进行研究的数据集。在这篇论文中，介绍了VidProM——首个包含了167万个真实用户的唯一文本到视频提示的大规模数据集。此外，该数据集还包括669万个由四个最先进的扩散模型生成的视频以及一些相关数据。我们首先展示了这个大规模数据集的策划过程，这是一个耗时且成本高的过程。然后，展示了所提出的VidProM与DiffusionDB（一个大规模的为图像生成的提示-图库数据集）的区别。基于这些提示的分析，认为有必要为特别设计的文本到视频生成提供一个新的提示数据集，并了解到真实用户在创建视频时的偏好。本次大规模和多样化的数据集也激发了许多令人兴奋的新研究领域。例如，我们建议探索文本到视频提示工程、有效的视频生成和扩散模型的视频复制检测，以制定更好、更高效、更安全的文本到视频扩散模型。我们根据CC-BY- NC 4.0 许可在GitHub和Hugging Face上公开提供了收集的数据集VidProM。参考博客链接：https://huggingface.co/papers/2403.06098
【xAI本周将开源Grok】本周，xAI将公开Grok源代码。这表示用户可以查看、使用并协助改进Grok，这对于未来Grok的发展与完善或将产生重要影响。参考博客链接：https://x.com/elonmusk/status/1767108624038449405?s=20
【Midjourney发布创新特色功能“角色参考”，实现跨图像间的角色一致性生成】Midjourney发布了角色一致性的新功能，这项功能声称能够在多个参考图像之间生成一致的角色。如何使用？你只需要在角色图像URL后的提示中键入“–cref URL”。可以通过使用“–cw”将参考的“强度”从100调整至0。默认强度100（–cw 100）会考虑脸部、头发和衣着。而强度0（–cw 0）只关注面部（适用于换装或换发型）。可以通过使用“–cref URL1 URL2”（类似于多图像或风格提示）将来自多个图像的信息融合。参考博客链接：https://x.com/Analyticsindiam/status/1767435537252753690?s=20
🤓【今日份Prompt技巧】 Allow the model to elicit precise details and requirements from you by asking you questions until he has enough information to provide the needed output (for example, “From now on, I would like you to ask me questions to ...”).让模型通过向您提出问题来引出您的精确细节和要求，直到它有足够的信息来提供所需的输出 -“从现在开始，我希望您向我提问......”。（技巧来源于：https://arxiv.org/pdf/2312.16171.pdf）
