Seit 1968 war es die erklärte Absicht, den olympischen Gedanken in Österreich durch Gründung einer nationalen Akademie im Rahmen des ÖOC nicht nur ideell, sondern auch organisatorisch zu vertiefen. Der damalige Leiter des Instituts für Leibeserziehung an der Universität Salzburg, Dr. Erwin Niedermann, verfasste am 22. Oktober 1968 eine Denkschrift zur Gründung der Österreichischen Olympischen Gesellschaft, „um die völkerverbindende, dem Frieden und dem fairen sportlichen Wettkampf dienende Idee der modernen Olympischen Spiele aufrecht zu erhalten und zu stärken“.
1975 gab der damalige Generalsekretär des ÖOC, Dr. Peter Pilsl, dem Initiator Dr. Erwin Niedermann die endgültige Zustimmung zur formalen Gründung der Gesellschaft. 1982 erfolgte die Gründung der „Arbeitsgemeinschaft zur Förderung des olympischen Gedankens in Österreich/Österreichische Olympische Akademie“.
Die Österreichische Olympische Akademie (ÖOA) versteht sich als Arbeitsgemeinschaft des Österreichischen Olympischen Comités und kooperiert mit der Internationalen Olympischen Akademie (IOA) in Griechenland. Die ÖOA befasst sich in dieser Absicht besonders mit den Olympischen Spielen als größtes Sportereignis der Welt. Der olympische Spirit soll besonders der Jugend zugänglich und verständlich gemacht werden.
Zu den Aufgaben zählt unter anderem die jährliche ÖOA-Entsendung von Studierenden der österreichischen Universitäten gemeinsam mit dem ÖOC zu der „International Session for Young Participants“ der Internationalen Olympischen Akademie nach Olympia in Griechenland.
Der Begründer der modernen Olympischen Spiele, Pierre de Coubertin, war sich bewusst, dass die weltoffenen und weltweiten Olympischen Spiele nicht nur durch das körperliche und völkerverbindende Erlebnis auf Dauer bestehen können. Die Olympische Idee braucht immer wieder Anregungen zur Festigung, Vertiefung und Verbreitung. Daher trat Coubertin in Wort und Schrift für die Schulung interessierter und fähiger Menschen ein.
Einer der Pioniere des modernen Sports, Prof. Dr. Carl Diem, Gründer und erster Rektor der Deutschen Hochschule für Leibesübungen in Berlin und der Deutschen Sporthochschule in Köln, nahm die Olympische Idee auf und legte bereits vor dem Zweiten Weltkrieg ein konkretes Programm einer Internationalen Olympischen Akademie (IOA) vor.
Nach Coubertins Tod am 2. September 1937 sah sich Diem in der Verantwortung des Coubertinschen Erziehungsauftrags und übernahm die Leitung des 1938 in Berlin eingerichteten „Internationalen Olympischen Instituts“. Nach der Beisetzung des Herzens Coubertins im März 1938 in Olympia schlug Diem dem Griechischen Olympischen Komitee (HOC) die Gründung einer Olympischen Akademie vor, die als ständige „Hochschule des Olympismus“ der internationalen Jugend die Olympischen Ideale nahebringen sollte.
Das IOC übernahm schon im Mai 1939 „die Schirmherrschaft über diese Institution, die dem olympischen Ideal“ diene, nachdem „die Errichtung und Durchführung einer IOA zur offiziellen Aufgabe des HOC“ erklärt worden war.
Die Grundideen lauten: Jährliches Treffen von Olympionik:innen, Wissenschaftler:innen und Sportstudierenden in Olympia, unweit der Kult- und Wettkampfstätten der Olympischen Spiele der Antike; die Pflege weltoffener und weltweiter Gespräche über den Olympismus; Zusammenleben von Lehrerpersonal und Schülern:innen.
Die Aktivitäten und Angebote wurden nach und nach ausgeweitet. Neben der jährlichen „Session for Young Olympic Ambassadors“ finden seit 1970 regelmäßig verschiedene Sessions und Workshops statt, wie zum Beispiel für Mitglieder und Mitarbeiter:innen der Nationalen Olympischen Komitees (NOKs), Olympiamedaillengewinner:innen und Olympioniken.