Thẩm quyền của trọng tài quốc tế bắt nguồn từ thỏa thuận của các bên, không có thỏa thuận trọng tài sẽ không có trọng tài. Khi các bên thiết lập một thỏa thauanj trọng tài điều đó có nghĩa là họ đã trao cho một hội đồng trọng tài nhất định thẩm quyền giải quyết tranh chấp và đồng nghĩa rằng tòa án quốc gia không có thẩm quyền giải quyết tranh chấp đó trừ khi thỏa thuận trọng tài vô hiệu hoặc bị hủy bỏ bởi chính các bên hoặc không thể thực hiện được.
Thẩm quền của trọng tài còn bị ảnh hưởng bởi phạm vi các tranh chấp mà nó được phép giải quyết hay còn gọi là khả năng trọng tài. Trọng tài có thể bị giới hạn phạm vi xét xử trong những quan hệ hợp đòng, cũng có thể không bị giới hạn dù có hợp đồng hay không.
Vấn đề “thẩm quyền của thẩm quyền” được hiểu là khi có một đơn phản đối về thẩm quyền của hội đồng trognj tài đối với một tranh chấp thì ai sẽ có thẩm quyền giải quyết? Đại đa số pháp luật trọng tài các nước cũng như các quy tắc tố tụng trọng tài quốc tế đều ghi nhận thẩm quyền của chính các hội đồng trọng tài trong việc xem xét nó có thẩm quyền giải quyết tranh cấp hay không. Quyết định về thẩm quyền sẽ được hội đòng trọng tài đưa vào quyết định tạm thời hoặc quyết định cuối cùng.