Вы можете воспользоваться САТ (city airport train) - удобный двухэтажный поезд, который едет от аэропорта практически до центра города за 16 минут
http://www.cityairporttrain.com/Выйти на Виен Митте (Wien Mitte Landstrasse), САТ идет до нее - мимо не проедете, и проехав 2 остановки на метро по салатовой ветке будете на карлплац (там даже в целом прогуляться пешком можно, если багаж не тяжелый и карта с собой есть, самый центр, там красиво).