Dies ist wirklich ein kompliziertes Thema, es gibt so viele Möglichkeiten und Kompromisse.
In Bezug auf Hardware, die ich für ein Low-End-Mikrocontroller gehen würde, weil die Dinge sind in der Regel leichter werden, wenn sie kleiner wird, und je weiter weg vom Desktop desto mehr lernen Sie die Mentalität der Embedded-Programmierung .
Da Sie in Japan sind, ist es wahrscheinlich am besten, vor Ort zu überprüfen, welcher Controller beliebt ist, so dass Sie gute Community-Unterstützung erhalten und problemlos Teile kaufen können.
Hier in Deutschland ist es AVR ATMEGA, und ich denke, es ist eine gute Wahl. Es hat die beste Unterstützung durch GNU-Tools, es ist in DIP-Paketen verfügbar und kann seinen internen Oszillator ablaufen, so dass es leicht auf einem Steckbrett laufen kann. Die größte Hürde war, dass ich einen ISP-Programmierer brauchte. Es gibt eine gute tutorial in Deutsch.
Ich habe auch eine R8C von Renesas, die in Japan beliebter sein könnte. Es ist schwieriger, die GNU-Tools laufen zu lassen, ich musste sie selbst aus der Quelle erstellen. Für MS-Windows gibt es die kostenlose IAR Kickstart-Suite mit einer auf 4KB begrenzten Code-Größe. Es kann mit einer seriellen Schnittstelle (aber mit TTL-Ebenen) programmiert werden, ich habe ein FTDI USB-zu-Seriell-Modul dafür.
Wie für RTOS, werfen Sie einen Blick auf OSEK, gibt es mehrere kostenlose Implementierungen. Es kann auf sehr kleinen Controllern verwendet werden.
Sie könnten auch ein grundlegendes RTOS selbst schreiben, es ist nicht so schwierig und Sie lernen am meisten.