Sensores virtuais são modelos inferenciais baseados em software que usam variáveis de processo (disponíveis através de sensores), também conhecidas como variáveis “fáceis de medir”, para estimar o valor de variáveis de qualidade (variáveis “difíceis de medir”), que não podem ser facilmente medidas, ou o seu processo de medição tem um alto custo associado (p.e. apenas pode ser feito esporadicamente, ou com atrasos temporais elevados). Os processos industriais estão geralmente equipados com um elevado número de sensores, medindo uma grande variedade de quantidades diferentes (p.e. temperatura, fluxo, abertura de válvulas, etc), disponíveis em tempo real a uma frequência constante. No entanto, em algumas circunstâncias, o valor das variáveis de qualidade só pode ser obtido através de análises laboratoriais, levando a uma frequência de medição não-fixa e atrasos temporais substanciais. Estes problemas podem levar a degradação de qualidade do produto final. Os sensores virtuais podem, nestes casos, possibilitar um maior grau de controlabilidade do processo através da disponibilização de estimações precisas dessas variáveis de qualidade.A frequência de amostragem significativamente elevada das variáveis “fáceis de medir” quando comparada com a das variáveis “difíceis de medir” leva a que muitas amostras sejam descartadas na etapa de obtenção e filtragem de dados da modelação de sensores virtuais. Isto acontece já que a maior parte dos modelos usam abordagens de aprendizagem supervisionada, nas quais apenas as amostras com respetiva “label” (i.e. amostras para as quais as variáveis de processo têm correspondentes variáveis de qualidade) são usadas no processo de treino. Abordagens de aprendizagem semi-supervisionada, no entanto, usam tanto amostras com e sem “label” no processo de treino. Nesta dissertação, um método semi-supervisionado baseado em aprendizagem usando múltiplas “views”, “co-regularized least squares regression (coRLSR)”, é implementado, usando também dados sem “label” para melhorar o desempenho de previsão.Outra etapa muito importante na modelação de sensores virtuais é a seleção de “features”. O elevado número de sensores numa planta de produção leva a um elevado número de possíveis “features” de entrada, aumentando a complexidade global do problema de regressão. Na maior parte dos casos, muitas “features” apresentam correlações com outras, e o uso de todas para treino do modelo pode causar a deterioração do desempenho de previsão. De facto, a maior parte do trabalho de pesquisa científica neste tópico sugere que, em muitos casos, poucas “features” são precisas para estimação suficientemente precisa. As abordagens descritas na literatura para classificação e seleção de “features” partilham um grau relativamente elevado de complexidade, que pode tornar o seu uso proibitivo em cenários em que o desempenho temporal é importante. Um método geral para classificação de “features” baseado em análise de sensibilidade é proposto nesta dissertação, de modo a que, de forma eficiente, a relevância de cada “feature” seja calculada sem a necessidade de retreinar o modelo.Os testes foram efetuados num processo real de polimerização, de forma a avaliar ambas as técnicas de aprendizagem semi-supervisionada e de classificação/seleção de “features”. Os resultados mostraram que o modelo de regressão semi-supervisionada foi competitivo com os métodos de aprendizagem supervisionada mais populares de sensores virtuais quando nenhum procedimento de seleção de “features” foi efetuado. No entanto, usando o procedimento de seleção de “features”, o método de regressão semi-supervisionada implementado não ultrapassou as alternativas supervisionadas em desempenho de predição. Por outro lado, o procedimento de classificação e seleção de “features” proposto aumentou substancialmente o desempenho de predição de todos os modelos de regressão estudados. Para além disso, o conhecimento obtido pela classificação de “features” permite um subsequente aumento de desempenho de predição, quando usado explorando a natureza de múltiplas “views” do método coRLSR.

Machine learning applications make several assumptions regarding the scenario where they are employed. One common assumption is that data distribution in the test environment follows the same distribution of the training set. This assumption is systematically broken in most real-world scenarios; the difference between these distributions is commonly known as domain shift. Unsupervised domain adaptation aims at suppressing this problem by leveraging knowledge with unlabeled data from the test environment. One of the most sensitive fields for domain shift is medical imaging. Due to the heterogeneity in data distributions from scanners, models tend to vary in predictive performance when dealing with images from scanners with no examples in the training set. We propose two contributions in this work. First, we introduce the use of self-ensembling domain adaptation in the field of medical imaging segmentation in a spinal cord grey matter segmentation task. Next, based on the success of self-ensembling, we adapt two other recent work from the semi-supervised learning literature to the same task, namely, unsupervised data augmentation and MixMatch. We conduct ablation studies and other experiments in order to understand the behavior of each method and compare their best results. The results show improvements over training models in a supervised learning fashion and demonstrate that recent semi-supervised learning methods are promising for domain adaptation in medical imaging segmentation.

Radiographs are the primary examination for diagnosing chest conditions, and yet they are frequently misread/misdiagnosed due to human-observer confusion. In clinical practice, there is an increase of deep learning approaches to support radiologists on the decision-making process to improve diagnostic accuracy. To properly support radiologists, it is insufficient for the system to simply output a diagnosis label. Ideally, the model should provide more information to support the classification result, such as the spatial localization of the finding. To properly train deep learning models, we usually need lots of annotated data. There is a vast amount of publicly-available chest radiographs labeled according to their radiological findings (labels for classification), but very few contain a location annotation. Our goal is to extend the use of unlabeled data to improve pathology localization in chest radiographs in a scenario with limited labeled data. We identify state-of-the-art semi-supervised methods and evaluated their performance on a classification scenario. Next, we extend the best method, Mean Teacher, to perform localization within a multiple instance learning framework, introducing our method C-MIL. Multiple instance learning is a paradigm with two types of labels: a general label that is known, and a more specific and unknown label but related to the one known, in our case, pathology presence and its localization. Our results show improvements of applying consistency regularization over a multiple instance localization framework and demonstrate that semi-supervised learning methods are promising to advance the state-of-the-art performance of pathology localization methods.

Com a competitividade cada vez maior do mercado, aplicações de alto nível de qualidade são exigidas para a automação de um serviço. Para garantir qualidade de um software, testá-lo visando encontrar falhas antecipadamente é essencial no ciclo de vida de desenvolvimento. O objetivo do teste de software é encontrar falhas que poderão ser corrigidas e consequentemente, aumentar a qualidade do software em desenvolvimento. À medida que o software cresce, uma quantidade maior de testes é necessária para prevenir ou encontrar defeitos, visando o aumento da qualidade. Porém, quanto mais testes são criados e executados, mais recursos humanos e de infraestrutura são necessários. Além disso, o tempo para realizar as atividades de teste geralmente não é suficiente, fazendo com que os defeitos possam escapar. Cada vez mais as empresas buscam maneiras mais baratas e efetivas para detectar defeitos em software. Muitos pesquisadores têm buscado nos últimos anos, mecanismos para prever automaticamente defeitos em software. Técnicas de aprendizagem de máquina vêm sendo alvo das pesquisas, como uma forma de encontrar defeitos em módulos de software. Tem-se utilizado muitas abordagens supervisionadas para este fim, porém, rotular módulos de software como defeituosos ou não para fins de treinamento de um classificador é uma atividade muito custosa e que pode inviabilizar a utilização de aprendizagem de máquina. Neste contexto, este trabalho propõe analisar e comparar abordagens não supervisionadas e semisupervisionadas para detectar módulos de software defeituosos. Para isto, foram utilizados métodos não supervisionados (de detecção de anomalias) e também métodos semi-supervisionados, tendo como base os classificadores AutoMLP e Naive Bayes. Para avaliar e comparar tais métodos, foram utilizadas bases de dados da NASA disponíveis no PROMISE Software Engineering Repository.

Algoritmos com a capacidade de aprendizado são ferramentas eficazes e eficientes para o processamento de um grande volume de dados. Entretanto, bases de dados das aplicações do mundo real não são completamente rotuladas, isso dificulta o desenvolvimento de um modelo pelos modos tradicionais de aprendizado de máquina. O aprendizado de máquina semissupervisionado surge para realizar o treinamento de algoritmos capazes de aprender com base de dados parcialmente rotuladas. A confiabilidade do processo de classificação depende de vários fatores que incluem o tipo de classificador utilizado e um conjunto de parâmetros que os customiza, além da disposição e/ou formatação da própria base de dados. Um fator importante deste tipo de aprendizado é a seleção de exemplos a serem incluídos no conjunto de dados rotulados. Uma forma de realizar essa seleção é por meio de um limiar que determina quais instâncias são incluídas por iteração, permitindo rotular apenas instâncias classificadas com alto valor de confiança. O método FlexCon-C – derivado do algoritmo Self-Training – faz uso dessa estratégia e o objeto de estudo deste trabalho foram as três técnicas variantes do método FlexCon-C (FlexCon-C1 (s), FlexCon-C1 (v), FlexCon-C2). No qual foi analisado diferentes valores para a variação do limiar (cr) mensurando o impacto na classificação de dados semissupervisionados. Os resultados demonstraram não haver um valor para o parâmetro cr que seja superior aos demais em todos os casos, uma vez que o melhor valor depende de diferentes configurações do experimento, tais como: técnica, classificador e percentual de dados inicialmente rotulados. Analisando a acurácia por classificador, percebeu-se que Naïve Bayes e rpartXse não apresentaram diferenças significativas no valor da acurácia ao se variar o parâmetro cr. Entretanto, o RIPPER obteve melhores resultados fixando-se o valor do cr > 5%, enquanto que o k-NN alcançou melhores acurácias com o cr < 5%.

This thesis reports on the development of an automated anomaly detection (AD) systemfor industrial quality control (QC), addressing inefficiencies of manual inspections and current practices. Leveraging machine learning and computer vision techniques, this work optimizes QC using AD algorithms. The research includes a review of AD techniques, algorithm development, hyperparameter optimization, performance evaluation, real-time implementation, and API backend creation. Central to this work is a framework built on an autoencoder (AE) architecture, optimized with a custom objective function that leverages data augmentation techniques to be trained using only defect-free images. Designed as a plug-and-play solution, it can be deployed across various production lines via API calls. This study assessed fourmethodologies, each building upon the one before, except for the variational approach, which showed no improvements. The best strategy involved a refined hyperparameter optimization coupled with advanced data augmentation techniques. The overall results were primarily attributed to the developed post-processing techniques and the use of the BCE metric for evaluation. In academic evaluations on theMetal Nut subset of the MVTec AD dataset, thiswork surpassedSOTA in the MSE AE regime, achieving an AUC of 0.87 and an IoU of 0.37, outperforming handcrafted methods in the literature by ≈ 1.2% and ≈ 42.3%, respectively. Although only slightly outperformed in AUC by the top SOTA method, which achieved 0.89, the methodology still delivered highly competitive results. In collaboration with industrial partners, the system successfully detected anomalous parts using a real-world dataset. The results validate the novel methodology and showcases the potential of data-augmented NOKs as an alternative to real-world defects. Aligned with Industry 4.0 objectives, this work contributes to the advancement of smarter, data-driven manufacturing processes, facilitating the development of more automated quality control systems, reducing industrywaste, and improving market competitiveness.

Recent advances in computer vision have demonstrated remarkable success in general object recognition tasks. However, fine-grained visual classification remains challenging due to subtle inter-class variations and the requirement for extensive labeled datasets. While self-supervised learning has shown promise in learning rich representations from unlabeled data, its application to specialized domains like fine-grained recognition has been less explored. This study explores various self-supervised learning architectures, such as a contrastive learning method and a teacher-student framework , namely SimCLR and DINO respectively, to evaluate their effectiveness in fine-grained classification tasks. Specifically, it focuses on the application of self and semisupervised learning techniques to vehicle make and model recognition in image datasets with few labels, providing a comprehensive analysis of their performance for this specialized classification challenge. We propose a multi-stage framework that leverages a backbone pretrained on the ImageNet dataset, followed by self-supervised fine-tuning on the Stanford Cars dataset, finalizing with few-shot classification with a linear classifier, also on Stanford Cars, to evaluate representation quality. Our experiments reveal significant challenges in domain transfer from general to specialized visual domains. We observe catastrophic forgetting when adapting models from broad object recognition to fine-grained automotive features, particularly pronounced with limited data availability. This work highlights critical research directions for improving domain adaptation in self-supervised learning, particularly for fine-grained applications with data constraints.