区别还是比较大的,芯片架构都不一样。像常用的STM32一般都是Cortex-M架构,像你说的ARM就应该是Cortex-A架构了。
先学单片机,再学ARM,这不冲突,有个循序渐进。
不仅仅是带不带OS的区别,架构差很多。
题主可以先从单片机入手,毕竟难度低一些,有了兴趣后面才好办。
说起来stm32也是ARM体系构架。使用的也是thumb2指令集。ARM体系构架跟某些单片机构架不同,但是使用起来(抛去OS不讲)和单片机差不多。区别不是很大,除了MMU这一块是一般单片机没有的,不然单片机也能跑Linux了。如果你熟悉cortex M内核,上手其他的也很快。
两者应用的方向也有不同,单片机专注于实时控制,后者偏向于应用程序。