Aaron Ho

機器學習研究 · 碩士論文

MCIENet

從 DNA 序列預測三維染色質交互作用,建立從資料到評估的研究流程。

我的角色
研究主導、模型架構、資料流程與實驗評估;部分前處理整合及調整 ChINN 方法。
目前進度
2024 年完成碩士論文。

我主導研究問題拆解與 MCIENet 模型架構,整合資料處理、消融實驗、跨資料集評估與可解釋性分析,完成論文與程式整理。

原始研究流程:資料準備、MCIENet 與可解釋性分析;部分前處理基於 ChINN。
原始研究流程:資料準備、MCIENet 與可解釋性分析;部分前處理基於 ChINN。(點圖放大)

核心問題與我的做法

讓模型同時看見不同尺度的DNA訊號

只用DNA序列預測染色質交互作用,需同時處理局部片段與較長範圍訊號。

本人設計以Inception為基礎的多尺度特徵擷取,並用消融比較各組件。 實作多分支卷積與聚合,保存不同kernel、通道配置及pooling的實驗設定。 在前期研究累積的實驗方式上,整理 H5 前處理快取、各組 log/模型檔與參數探索,讓碩論的消融及參數比較更完整。

完成多尺度模型、對照實驗流程及碩士論文,讓架構的各項設計可以分開比較。

不預設大型預訓練模型能適用所有資料

不同細胞類型的DNA結構預測可能需要不同表示;預訓練規模不等於適用性。

本人比較不同細胞資料與DNABERT2基準,檢查模型的適用邊界。 在GM12878與HeLaS3評估,保留資料/模型設定及baseline流程。

論文記錄DNABERT2-512在HeLaS3的較弱表現;結論限本研究資料與設定,不概括所有預訓練模型。

分數之外,追查模型對哪段序列敏感

預測分數無法說明錨點偏移會不會讓方法失去穩定性。

本人以DeepLIFT查看序列貢獻,檢查長序列與anchor位置的限制。 以解釋分析比較模型關注區域,整理anchor中心偏移的觀察。

論文指出anchor-based方法對中心偏移的穩定性限制,保留結果解讀的邊界。

技術細節與驗證範圍

我的責任

研究問題與架構設計、資料流程整合、實驗與評估、論文撰寫,以及 repository 工程化。

多尺度回答什麼問題

輸入是一對基因區段的 DNA 序列與交互作用標籤。多尺度設計用不同卷積核的並行分支,檢查不同長度的局部序列訊息,再彙整成預測特徵。程式包含兩層 Inception 特徵抽取與可配置的特徵彙整;消融讓「哪個設計有幫助」成為可比較問題,而非只換一個模型名稱。

一個可重跑的消融對照

現有設定可比較資訊抽取分支只用長度 9 的卷積核,或採 3/5/7/9 並行分支;兩組均保留 1×1 訊息保留與 pooling 分支。兩組總通道都為 100,學習率、訓練上限及資料輸入設定相同。它支持一個可重跑的比較設計,但不同分支的參數總量仍需另外控制,不能把配置直接當作尺度效果或優勝的證明。

驗證方式與樣本單位

研究以序列對為分類樣本,透過消融、跨資料集評估及可解釋性分析檢查模型。後續比較腳本保留同一資料的 train/dev/test;共切分可避免比較時換掉樣本,但不自動證明基因區段無重疊或跨細胞類型皆可泛化。

讓對照實驗能被重跑

資料流程以 GM12878 與 HeLa-S3 的 CTCF 資料為範例;研究程式分開 BaseCNN 與 MCIENet 的訓練及 DeepLIFT 分析入口。後續比較腳本把同一份 data.h5 的 train/dev/test 切分轉成 ChINN 與 DNABERT2 所需格式,再將測試指標匯入共同格式。

這些程式與配置讓模型比較可以使用一致輸入、重跑並核對結果。跨細胞類型的泛化仍有限制;保留比較入口也不代表每個基準都已完成或全面優於其他方法。

方法歸屬

部分正負樣本前處理基於 ChINN 調整與整合;第三方基礎方法與自己的模型設計分開說明。