論文要約 SafeWork-R1：AIの安全性を進化させる革新的アプローチ
紹介論文今回紹介する論文はSafeWork-R1: Coevolving Safety and Intelligence under the AI-45$^{\circ}$ Lawという論文です。 この論文を一言でまとめるとSafeWork...
安全性
論文要約 
論文要約 AIの安全性は予測可能？早期検出の新手法
紹介論文今回紹介する論文はCan We Predict Alignment Before Models Finish Thinking? Towards Monitoring Misaligned Reasoning Modelsという論文...
論文要約 CoT監視は万能か？AI安全性確保の最前線
紹介論文今回紹介する論文はWhen Chain of Thought is Necessary, Language Models Struggle to Evade Monitorsという論文です。 この論文を一言でまとめると本記事では、A...
論文要約 推論モデルは本当に安全？バイアスのリスクを徹底検証
紹介論文今回紹介する論文はIs Reasoning All You Need? Probing Bias in the Age of Reasoning Language Modelsという論文です。 この論文を一言でまとめると本研究では、...
論文要約 LLMの価値観を認知モデルで解釈する
紹介論文今回紹介する論文はInside you are many wolves: Using cognitive models to interpret value trade-offs in LLMsという論文です。 この論文を一言でまと...
論文要約 LLMの安全性評価： ファインチューニングの落とし穴
紹介論文今回紹介する論文はFine-Tuning Lowers Safety and Disrupts Evaluation Consistencyという論文です。 この論文を一言でまとめると本研究では、LLMのファインチューニングが安全性...
論文要約 LLMの安全性を高めるLoX: 低ランク外挿による革新的な手法
紹介論文今回紹介する論文はLoX: Low-Rank Extrapolation Robustifies LLM Safety Against Fine-tuningという論文です。 この論文を一言でまとめると本記事では、LLMの安全性にお...
論文要約 LLMの制御を革新！INSTABOOSTで安全性を向上
紹介論文今回紹介する論文はInstruction Following by Boosting Attention of Large Language Modelsという論文です。 この論文を一言でまとめるとLLMの制御におけるlatent ...
論文要約 AIは迷子になる？思考を自己評価できるのか徹底検証
紹介論文今回紹介する論文はHow Well Can Reasoning Models Identify and Recover from Unhelpful Thoughts?という論文です。 この論文を一言でまとめると本研究では、大規模言...