Rewolucja w wyzwaniach inżynieryjnych dzięki sztucznej inteligencji: nowe podejście do optymalizacji

Complex design challenges in engineering often come down to navigating a high number of variables and limited opportunities for testing. The stakes are high, especially when we’re talking about fine-tuning a power grid or developing safer vehicles. Each evaluation can be costly and the range of potential variables mind-boggling. Just think about car safety design – thousands of elements are in play and the tiniest decision can dramatically alter how a vehicle behaves during a collision. Unfortunately, traditional optimization tools often falter under the weight of this complexity.

The Gamechanger: MIT’s Fresh Take

That’s where a team of researchers from MIT steps in. They’ve come up with a fresh approach that reshapes how we use Bayesian optimization to address problems with hundreds of variables. In tests on engineering benchmarks, including power-system optimization, their method found top solutions 10 to 100 times speedier than traditional techniques.

So, what’s the secret? It’s all about a foundation model trained on tabular data. This model autonomously identifies the most impactful variables to improve performance and iteratively refines the solution. Being trained on a broad range of data, foundation models have the impressive ability to adapt to various applications.

Zwiększenie wydajności

The crux of their tabular foundation model is that it doesn’t need constant retraining, which significantly ramp up the process’s efficiency. For more intricate problems, this method brings even higher speed, making it invaluable in sectors like materials development and drug discovery. To quote the leading author of the project, Rosen Yu, a graduate student in computational science and engineering, “Modern AI and machine learning models can change the way engineers and scientists create complex systems. We conceived one algorithm that not only solves high-dimensional problems but is also reusable, sidestepping the need to start everything from scratch”.[źródło]

Nie zapominając o tym, że mając do czynienia z wieloaspektowymi problemami i wymagającymi metodami oceny, naukowcy zazwyczaj korzystają z optymalizacji bayesowskiej. Metoda ta iteracyjnie znajduje najlepszą konfigurację, budując model zastępczy, który kieruje wyszukiwaniem. Jednak przekwalifikowanie tego modelu po każdej iteracji staje się trudne, zwłaszcza gdy w grę wchodzi duża przestrzeń rozwiązań. Zespół poradził sobie z tym wyzwaniem, mając generatywny system sztucznej inteligencji, tabelaryczny model fundamentalny, działający jako model zastępczy w algorytmie optymalizacji bayesowskiej.

Nowa era w optymalizacji

Wykorzystanie tabelarycznego modelu fundamentów jest porównywane przez Yu do ChatGPT dla arkuszy kalkulacyjnych, ponieważ jego danymi wejściowymi i wyjściowymi są dane tabelaryczne, które są częściej spotykane i używane niż język w sektorze inżynieryjnym. Podobnie jak duże modele językowe, takie jak ChatGPT, Claude i Gemini, został on wstępnie wytrenowany na znacznych ilościach danych tabelarycznych, co czyni go wykwalifikowanym w radzeniu sobie z różnymi problemami związanymi z przewidywaniem. Jedną z jego kluczowych zalet jest to, że może być używany bez ponownego szkolenia.

Naukowcy udoskonalili tabelaryczny model fundamentu, aby skupić się na cechach przestrzeni projektowej, które mają największy wpływ na rozwiązanie. Skutkuje to większą precyzją i wydajnością, pozwalając modelowi wybrać najbardziej krytyczne cechy, na których należy się skoncentrować. Na przykład, samochód może mieć 300 kryteriów projektowych, ale nie wszystkie z nich prowadzą do najlepszego projektu. Algorytm szybko dociera do sedna najbardziej wpływowych cech, oszczędzając w ten sposób czas na te mniej istotne.

The team had to clear a few hurdles, such as finding the best tabular foundation model for the task. Also, they had to work out how to connect it with a Bayesian optimization algorithm to identify key design features. Once they established the framework, their method consistently outperformed five current state-of-the-art optimization algorithms, finding the best solutions 10 to 100 times quicker. However, it didn’t outdo all benchmarks, possibly due to gaps in the model’s training data.

Don’t worry, the MIT team isn’t resting on their laurels. They’re looking to enhance their tabular foundation models even further and apply their method to even more complex issues, such as naval ship design. As Ahmed, another member of the team, puts it: “At a higher level, this work points to a broader shift: using foundation models not just for perception or language, but as algorithmic engines inside scientific and engineering tools, allowing classical methods like Bayesian optimization to scale to regimes that were previously impractical.”

One academic not involved in the research, Professor Wei Chen, praises the MIT’s approach as a “creative and promising way to reduce the heavy data requirements of simulation-based design. Overall, this work is a powerful step toward making advanced design optimization more accessible and easier to apply in real-world settings.”

If this still hasn’t quenched your thirst for all things AI and engineering, you can read more on the topic straight from the source at the MIT News website. Exciting times are ahead in the engineering world, and we’re here to keep you informed!