Segmentace buněk v mikroskopii za použití referenční modality

Abstract

Mikroskopia nám umožňuje študovať a porozumieť biologickým procesom na bunkovej úrovni a pozorovať biologické štruktúry. V tejto práci sa zameriavame na pozorovanie vplyvu určitých látok na populáciu buniek. Naviac sa znažíme automatizovať pozorovanie kvôli veľkému množstvu buniek. Je žiaduce použiť fázovú kontrastnú mikroskopiu namiesto fluorescenčnej mikroskopie, pretože fluorescenčná mikroskopia je menej pracná a je možné ju používať in-vivo. Preto sa táto práca zameriava na segmentáciu vo fázovej kontrastnej mikroskopii. Bežný prístup je učiť sa pomocou dát anotovaných expertmi. My namiesto toho máme prístup ku korešpondujúcej fluorescenčnej mikroskopii. Preto vytvárame referenčnú segmentáciu automaticky a následne aplikujeme metódy hlbokého učenia. Využívame viacero architektúr neurónových sietí na segmentáciu, napríklad UNet (\cite{Unet}) a techniku 'image-to-image translation' \cite{pix2pix} (priamu techniku transformácie jednoho obrázku na druhý). Aby sme zlepšili segmentáciu, meníme rôzne nastavenia, ako napríklad stratovú funkciu a vyhodnocujeme problémy, ako napríklad nedostatočné farbenie v referenčnej modalite. Kvantitatívne analyzujeme výsledky a vyberáme najlepší model, dosahujúci senzitivitu $88.8\%$ a presnosť $88.5\%$. V závere vyhodnocujeme atribúty popisujúce tvar, množstvo a veľkosť buniek, aby sme identifikovali potenciálne zmeny spôsobené aplikáciou liečív. Tieto deskriptory slúžia ako vstup pre SVM klasifikátor. Nakoniec klasifikátor predikuje, či aplikácia liečiva ovplyvňuje vzhľad buniek.

Microscopy allows us to study and understand biological processes on the cellular level and observe the biological structures. In this thesis, we aim to observe the drug effects on the cell population. Moreover, we attempt to automate the observation due to a large number of cells. It is desirable to use phase-contrast microscopy instead of fluorescence microscopy because the phase-contrast microscopy is less laborious and applicable in-vivo. Therefore, this thesis focuses on nuclei segmentation in phase-contrast microscopy images. The common approach is to learn from the data annotated by the experts. Instead, we have access to the corresponding fluorescence microscopy modality. We thus create the reference segmentation automatically and then apply the deep learning techniques. We exploit multiple network architectures for segmentation, including the UNet (\cite{Unet}) and the image-to-image translation technique (\cite{pix2pix}). We improve the segmentation by changing the settings such as loss function and inspect the problems such as insufficient coloring in the reference modality. We perform quantitative analysis and select the best performing model, achieving the sensitivity of $88.8\%$ and precision of $88.5\%$ . Finally, we evaluate the attributes describing the shape, amount, and size of the cells to identify the potential changes induced by the treatment. These descriptors serve as an input for an SVM classifier. Ultimately, the classifier predicts whether the treatment influences the cells' appearance.