Estudo de Iniciação Científica da PUC-Campinas é premiado em simpósio nacional

Professor e estudante de Engenharia de Computação receberam menção honrosa

O Prof. Dr. Ademar Takeo Akabane e o estudante de Engenharia da Computação da PUC-Campinas Rafael Barbon receberam a Menção Honrosa por um projeto apresentado no XL Simpósio Brasileiro de Redes de Computadores e Sistemas Distribuídos, o mais importante da área no Brasil. A premiação foi concedida dentro do workshop voltado para trabalhos de Iniciação Científica.

O estudo “Análise de Performance dos Modelos Gerais de Aprendizado de Máquina Pré-Treinados: BERT vs distilBERT” analisou a performance de dois modelos pré-treinados de inteligência artificial utilizados para processamento de Língua Natural.

Ambos foram desenvolvidos pela equipe do Google e são aplicados para processamento de textos e para realizarem várias tarefas, como classificação de textos, análise de sentimentos em uma frase, análise de documentos, entre outras. O BERT foi responsável pela última maior atualização do buscador do Google.

O distilBERT foi inspirado do modelo BERT, acrescido da técnica de compressão de redes neurais artificiais (RNAs). RNAs são técnicas computacionais que representa um modelo matemático inspirado no funcionamento dos neurônios de organismos inteligentes e adquirem conhecimento através da experiência.

“O distilBERT é um modelo menor, que demanda menor tempo de processamento, porém com a mesma eficiência do modelo maior (BERT). Assim, o trabalho contribuiu com a análise da eficiência dos modelos BERT e distilBERT para processamento de Língua Natural. Essa técnica de compressão permite que os modelos menores resultantes possam ser aplicados em sistemas  que possui recursos computacionais reduzidos”, disse Rafael.

“Esse prêmio destaca a importância do trabalho no meio acadêmico e também no meio não acadêmico devido aos excelentes resultados alcançados. Além disso, o prêmio é muito importante para meu currículo, já que pretendo seguir carreira acadêmica”, disse o estudante.