In the domain of oncology, pathology tasks such as patient diagnosis and cancer drug development, have been revolutionized since the growing availability and quality of high resolution whole slide scanners. The transition from conventional glass slide microscopic assessment to digital pathology has been beneficial and promising for both pathologists and researchers due to the ability to collect, process and analyse much larger datasets with more stains (clinical markers) using more objective, accurate and consistent methods. Furthermore, with the recent advances in computational power, deep learning solutions have been developed allowing to explore previously unachievable predictive algorithms and to enhance the value and insights that can be generated from pathology tissue images. However, different challenges need to be taken into consideration in order to make the applications more efficient and to increase confidence and adoption in the very conservative field of human pathology. These challenges include, among others, application generalization over multiple stains, limitations in terms of tissue staining materials and procedures, size of histologic whole slide images (WSIs) and intra and inter-pathologist variability. In this thesis, we explore new methodologies, techniques and deep learning solutions to the aforementioned challenges in the context of two different applications: stain generalization and stain virtualization applied to digital images of Colorectal Carcinoma metastases in liver tissue from biopsy and surgical specimen. Slide annotation is a key step in pathology routines and in cancer biomarker research aiming to quantify pattern changes in microscopic WSIs of tumor biopsies. The process of manual annotation can be tedious and subjective, especially in the context of drug development research where a correlative analysis of multiple biomarkers is required. In the first part of this dissertation, we elaborate on a supervised learning based method that allows to segment different functional compartments in histology images of various stainings including Hematoxylin and Eosin (H&E) staining and multiple immunohistochemistry (IHC) stainings. We show the effect of the proposed solution on increasing the stain generalization performance and dealing with dataset variability by comparing to state-of-the-art methods and using different visualization techniques. In the second part we propose stain virtualization solutions allowing to virtually generate an IHC staining from different input stainings using unsupervised learning methods. Stain virtualization presents many advantages to the pathology drug development workflow, such as reduction of lab workload, reduction in tissue and costs and multiplexing of different biomarkers on the same tissue and with the same coordinate system. In this context, we additionally propose solutions to one of the main challenges of high resolution style transfer in general and to WSI processing in particular, i.e. the tiling artifact caused by the necessity of tilewise processing. We describe different experiments and visualizations aiming to prove the hypothesis and we validate the application mathematically and histologically.
Übersetzte Kurzfassung:
Im Bereich der Onkologie sind die Aufgaben der Pathologie, wie z.B. die Patientendiagnose und die Entwicklung von Krebsmedikamenten, seit der zunehmenden Verfügbarkeit und Qualität von hochauflösenden Whole Slide Scannern revolutioniert worden. Der Übergang von der konventionellen gläsernen Objektträger-Mikroskopie zur digitalen Pathologie war sowohl für Pathologen als auch für Forscher vorteilhaft und vielversprechend, da sie nun in der Lage sind, viel größere Datensätze mit mehr Färbungen (klinische Markern) mit objektiveren, genaueren und konsistenteren Methoden zu sammeln, zu verarbeiten und zu analysieren. Darüber hinaus wurden mit den jüngsten Fortschritten bei der Rechenleistung Deep Learning entwickelt, die es ermöglichen, bisher unerreichbare prädiktive Algorithmen zu erforschen und den Wert und die Erkenntnisse zu verbessern, die aus Bildern von pathologischem Gewebe generiert werden können. Es müssen jedoch verschiedene Herausforderungen berücksichtigt werden, um die Anwendungen effizienter zu gestalten und das Vertrauen und die Akzeptanz im sehr konservativen Bereich der Humanpathologie zu erhöhen. Zu diesen Herausforderungen gehören unter anderem die Verallgemeinerung der Anwendung von unterschiedlichen Färbungen, Einschränkungen hinsichtlich der Materialien und Verfahren der Gewebefärbung, die Größe der histologischen Ganzkörperdarstellung (WSIs) und die Variabilität innerhalb und zwischen den Pathologen. In dieser Arbeit erforschen wir neue Methoden, Techniken und Deep Learning für die oben genannten Herausforderungen im Kontext zweier verschiedener Anwendungen: Generalisierung und Virtualisierung von Gewebsfärbungen, die auf digitale Bilder von kolorektalen Karzinom-Metastasen in Lebergewebe aus Biopsie- und Operationspräparaten angewendet werden. Die Annotation von Objektträgern ist ein wichtiger Schritt in der Pathologieroutine und in der Krebs-Biomarker-Forschung, um Musterveränderungen in mikroskopischen WSIs von Tumorbiopsien zu quantifizieren. Der Prozess der manuellen Annotation kann langwierig und subjektiv sein, insbesondere im Kontext der Forschung in der Medikamentenentwicklung, wo eine korrelative Analyse mehrerer Biomarker erforderlich ist. Im ersten Teil dieser Dissertation arbeiten wir an einer lernbasierten Methode, die es erlaubt, verschiedene funktionelle Kompartimente in histologischen Bildern verschiedener Färbungen, einschließlich Hämatoxylin- und Eosin (H&E)- ärbungen und multipler Immunhistochemie (IHC)-Färbungen, zu segmentieren. Wir zeigen den Effekt der vorgeschlagenen Lösung auf die Leistungssteigerung der Färbegeneralisierung und den Umgang mit der Variabilität des Datensatzes durch den Vergleich mit modernsten Methoden und die Verwendung verschiedener Visualisierungstechniken. Im zweiten Teil schlagen wir Lösungen zur Virtualisierung der Färbung vor, die es erlauben, eine IHC-Färbung aus verschiedenen Eingangsfärbungen mit Hilfe von unüberwachten Lernmethoden virtuell zu erzeugen. Die Färbe-Virtualisierung bietet viele Vorteile für den Arbeitsablauf bei der Entwicklung von Medikamenten in der Pathologie, wie z.B. die Reduzierung des Arbeitsaufwands im Labor, die Reduzierung von Gewebe und Kosten und die Kombination von Färbungen verschiedener Biomarker auf demselben Gewebe und mit demselben Koordinatensystem. In diesem Zusammenhang schlagen wir zusätzlich Lösungen für eine der größten Herausforderungen der hochauflösenden Stilübertragung (Style Transfer) im Allgemeinen und der WSI-Verarbeitung im Besonderen vor, nämlich das durch die Notwendigkeit der kachelweisen Verarbeitung verursachte Kachel-Artefakt. Wir beschreiben verschiedene Experimente und Visualisierungen, um die Hypothese zu beweisen und wir validieren die Anwendung mathematisch und histologisch.