Die vordringlichste Aufgabe bestand in der Vergangenheit darin, in den Bundesländern die Schaffung von Nomenklaturkommissionen anzuregen. Derzeit sind solche in 6 Bundesländern eingerichtet. In Niederösterreich und Wien nehmen die Landesarchive die entsprechenden Aufgaben wahr, in Kärnten existiert keine derartige Institution.
Die wichtigste derzeitige Aufgabe der AKO ist es, zwischen den genannten Institutionen in meritorischer und organisatorischer Hinsicht koordinierend zu wirken. Zu diesem Zweck hält die AKO zwei Mal jährlich Sitzungen ab, in welchen die Berichte der vertretenen Institutionen referiert und diskutiert werden. Bis Ende 2000 wurden 64 Sitzungen abgehalten. Organisatorisch ist die AKO zwanglos eingerichtet. Sie verfügt über eine/n Vorsitzende/n und seit der 42. Sitzung über eine/n Stellvertreter/in des/der Vorsitzenden. Diese beiden Funktionen stehen alle fünf Jahre zur Wahl an.
Die AKO nimmt regelmäßig an den Sitzungen des Ständigen Ausschusses für geographische Namen mit Sitz in Frankfurt am Main teil; in diesem Gremium wird die Koordination in Fragen der Namenstandardisierung für die deutschsprachigen Staaten vorgenommen.
Der Vorsitzende der AKO nimmt über Delegierung durch das Bundesministerium für auswärtige Angelegenheiten als Vertreter Österreichs an den Konferenzen der Vereinten Nationen zur Standardisierung geographischer Namen und an den Sitzungen der United Nations Group of Experts on Geographical Names (UNGEGN) teil. Die AKO gehört innerhalb der UNGEGN der Dutch and German speaking division (DGSD) an.