真·skysys-CSDN博客

AI 镜像开发实战征文活动

随着人工智能技术的飞速发展，AI 镜像开发逐渐成为技术领域的热点之一。Stable Diffusion 3.5 FP8 作为强大的文生图模型，为开发者提供了更高效的图像生成解决方案。为了推动 AI 镜像开发技术的交流与创新，我们特此发起本次征文活动，诚邀广大开发者分享在 Stable Diffusion 3.5 FP8 文生图方向的实战经验和创新应用本次征文活动鼓励开发者围绕 Stable Diffusion 3.5 FP8 文生图方向，分享以下方面的内容： 1. 技术实践与优化 - Stable Diffusion 3.5 FP8 模型架构解析与优化技巧 - 文生图生成效果的提升方法与技巧 - 模型部署与加速策略，例如使用 Hugging Face、Diffusers 等工具 - 针对特定场景（例如二次元、写实风）的模型微调与定制化开发 2. 应用场景探索 - Stable Diffusion 3.5 FP8 在不同领域的应用案例分享，例如游戏设计、广告创意、艺术创作等 - 利用 Stable Diffusion 3.5 FP8 实现图像编辑、图像修复、图像增强等功能的探索 - 结合其他 AI 技术（例如 NLP、语音识别）构建更强大的应用 3. 创新应用与思考 - 基于 Stable Diffusion 3.5 FP8 的创新应用场景设计 - AI 镜像开发的未来发展方向的思考与展望 - 对 AI 镜像开发伦理、安全等问题的探讨

28人参与去参加

【Agent安全】【ACL】The Task Shield: Enforcing Task Alignment to Defend Against Indirect Prompt Injection

大语言模型（LLM）智能体正被广泛部署为可通过工具集成执行复杂现实任务的对话助手。这种与外部系统交互并处理多源数据的能力虽然强大，却也带来显著安全漏洞。其中，间接提示注入攻击攻击者将恶意指令嵌入外部数据源，诱使智能体偏离用户意图。现有防御手段虽具前景，却难以在保持鲁棒安全的同时保留任务功能。将智能体安全从“阻止有害行为”重构为“确保任务对齐”要求每个智能体动作都必须服务于用户目标。基于此洞察，我们设计任务盾（Task Shield），一种测试时防御机制，系统性地验证每条指令与工具调用是否贡献于用户指定目标。

skysys的研究小屋

AgentDojo: A Dynamic Environment to Evaluate Prompt Injection Attacks and Defenses for LLM Agents

【ICML2024】RigorLLM: Resilient Guardrails for Large Language Models against Undesired Content

【技术报告详细解读】Meta Llama Guard 2

【技术报告详细解读】Llama Guard 3 8B

【技术报告详细解读】Llama Guard: LLM-based Input-Output Safeguard for Human-AI Conversations

【越狱】【AAAI2026】Differentiated Directional Intervention: A Framework for Evading LLM Safety Alignment

【技术报告详细解读】Qwen3Guard Technical Report

【ACL2025】Representation Bending for Large Language Model Safety

AgentArmor: Enforcing Program Analysis on Agent Runtime Trace to Defend Against Prompt Injection

AlphaSteer: Learning Refusal Steering with Principled Null-Space Constraint

【MCP安全】MCP-Guard: A Defense Framework for Model Context Protocol Integrity in LLM Applications

【RAG安全】Pirates of the RAG: Adaptively Attacking LLMs to Leak Knowledge Bases

【RAG安全】Feedback-Guided Extraction of Knowledge Base from Retrieval-Augmented LLM Applications

【MCP安全】MCPGuard : Automatically Detecting Vulnerabilities in MCP Servers

【MCP安全】【EMNLP2025】MCIP: Protecting MCP Safety via Model Contextual Integrity Protocol

【Agent安全】【ACL】The Task Shield: Enforcing Task Alignment to Defend Against Indirect Prompt Injection

【大模型安全对齐/超越表面对齐】Beyond Surface Alignment: Rebuilding LLMs Safety Mechanism

[ICML2025] Safety Alignment Can Be Not Superficial With Explicit Safety Signals

CodeChameleon: Personalized Encryption Framework for Jailbreaking Large Language Models

QueryAttack: Jailbreaking Aligned Large Language Models Using Structured Non-natural Query Language