Grundsätzlich besteht die Organisation der Agentur aus drei Ebenen: Spitze, mittlere Ebene und örtliche Ebene.

Spitze = Vorstand
Der Vorstand besteht aus mindestens einen Vorsitzenden und weitere Mitglieder. Er ist für die Leitung der Körperschaft und die Durchführung der Geschäfte verantwortlich. Zusätzlich vertritt er die Agentur sowohl gerichtlich als auch außergerichtlich.

Mittlere Ebene = Regionaldirektionen
Ihr oberstes Organ ist die Geschäftsführung, welche aus einem Vorsitzenden und zwei weiteren Mitgliedern für die Bereiche operativer und interner Service besteht. Ihr Verantwortungsbereich betrifft den Erfolg der regionalen Arbeitsmarktpolitik. Sie arbeiten eng mit der Landesregierung zusammen und steuern die Arbeitsagenturen.

Örtliche Ebene = Agenturen für Arbeit
Auch diese werden von einer Geschäftsführung geleitet. Diese besteht ebenfalls aus einem Vorsitzenden und mindestens zwei Mitgliedern. Sie sind für die Umsetzung der Aufgaben der Bundesagentur zuständig.

Zu den wesentlichen Aufgaben der Bundesagentur für Arbeit gehören:

- Vermittlung in Ausbildungs- und Arbeitsstellen
- Berufsberatung
- Arbeitgeberberatung
- Förderung der Berufsausbildung
- Förderung der beruflichen Weiterbildung
- Förderung der beruflichen Eingliederung von Menschen mit Behinderung
- Leistungen zur Erhaltung und Schaffung von Arbeitsplätzen
- Entgeltersatzleistungen, wie Arbeitslosengeld oder Insolvenzgeld