IT之家 2 月 8 日消息，相比較微軟的風生水起，蘋果公司在 AI 領(lǐng)域的布局顯得低調(diào)很多，但這并不意味著蘋果在該領(lǐng)域就沒有絲毫建樹。蘋果公司近日發(fā)布了名為“MGIE”的新型開源人工智能模型，它可以根據(jù)自然語言指令編輯圖像。
MGIE 的全稱是 MLLM-Guided Image Editing，利用多模態(tài)大型語言模型（MLLM）解釋用戶指令并執(zhí)行像素級操作。MGIE 可以理解用戶下達的自然語言命令，進行 Photoshop 風格的修改、全局照片優(yōu)化和局部編輯等操作。
蘋果公司和加州大學圣巴巴拉分校研究人員合作，在 2024 年國際學習表征會議（ICLR）上發(fā)表 MGIE 相關(guān)研究成果，而 ICLR 是人工智能研究的頂級會議之一。
介紹 MGIE 之前，IT之家先來介紹下 MLLM。MLLM 是一種強大的人工智能模型，可以同時處理文本和圖像，從而增強基于指令的圖像編輯能力。MLLMs 在跨模態(tài)理解和視覺感知響應生成方面表現(xiàn)出卓越的能力，但尚未廣泛應用于圖像編輯任務。
MGIE 通過兩種方式將 MLLMs 集成到圖像編輯過程中：首先，它使用 MLLMs 從用戶輸入中推導出富有表現(xiàn)力的指令。這些指令簡潔明了，為編輯過程提供了明確的指導。
例如，當輸入“讓天空更藍”時，MGIE 可以生成“將天空區(qū)域的飽和度提高 20%”的指令。
其次，它使用 MLLM 生成視覺想象力，即所需編輯的潛在表征。這一表征捕捉了編輯的本質(zhì)，可用于指導像素級操作。MGIE 采用了一種新穎的端到端訓練方案，可聯(lián)合優(yōu)化指令推導、視覺想象和圖像編輯模塊。
MGIE 可以處理各種編輯情況，從簡單的顏色調(diào)整到復雜的對象操作。該模型還可以根據(jù)用戶的偏好執(zhí)行全局和局部編輯。MGIE 的部分特性和功能包括：
基于指令的表達式編輯：MGIE 可以生成簡潔明了的說明，有效指導編輯過程。這不僅能提高編輯質(zhì)量，還能增強用戶的整體體驗。
Photoshop 風格修改：MGIE 可以執(zhí)行常見的 Photoshop 風格編輯，如裁剪、調(diào)整大小、旋轉(zhuǎn)、翻轉(zhuǎn)和添加濾鏡。該模型還可以應用更高級的編輯，如更改背景、添加或刪除對象以及混合圖像。
全局照片優(yōu)化：MGIE 可以優(yōu)化照片的整體質(zhì)量，如亮度、對比度、清晰度和色彩平衡。該模型還能應用素描、繪畫和漫畫等藝術(shù)效果。
局部編輯：MGIE 可以編輯圖像中的特定區(qū)域或?qū)ο?，如臉部、眼睛、頭發(fā)、衣服和配飾。模型還可以修改這些區(qū)域或?qū)ο蟮膶傩?，如形狀、大小、顏色、紋理和風格。
MGIE 是 GitHub 上的一個開源項目，用戶可以點擊這里找到代碼、數(shù)據(jù)和預訓練模型。該項目還提供了一個演示筆記本，展示如何使用 MGIE 完成各種編輯任務。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。