Se hai usato Visual Studio con C# non dovrebbe essere un grande problema con intellij idea. Per Java puoi utilizzare Swing (programmando manualmente il layout etc) oppure in modo "automatico" e con quest'ultima opzione puoi servirti di un IDE avanzato come ItelliJ per farlo: https://examples.javacodegeeks.com/desktop-java/ide/intellij-gui-designer-example/.
Per la seconda domanda non sono in grado di risponderti completamente perche' non conosco MathLab, ad ogni modo ti consiglio anche qui di switchare il tutto su Java se puoi.
Per la seconda domanda non sono in grado di risponderti completamente perche' non conosco MathLab, ad ogni modo ti consiglio anche qui di switchare il tutto su Java se puoi.