Lines Matching defs:wq
54 struct io_wq *wq; member
157 static inline struct io_wq_acct *io_get_acct(struct io_wq *wq, bool bound) in io_get_acct()
162 static inline struct io_wq_acct *io_work_get_acct(struct io_wq *wq, in io_work_get_acct()
173 static void io_worker_ref_put(struct io_wq *wq) in io_worker_ref_put()
192 struct io_wq *wq = worker->wq; in io_worker_cancel_cb() local
215 struct io_wq *wq = worker->wq; in io_worker_exit() local
272 static bool io_wq_activate_free_worker(struct io_wq *wq, in io_wq_activate_free_worker()
308 static bool io_wq_create_worker(struct io_wq *wq, struct io_wq_acct *acct) in io_wq_create_worker()
339 struct io_wq *wq; in create_worker_cb() local
368 struct io_wq *wq = worker->wq; in io_queue_worker_create() local
413 struct io_wq *wq = worker->wq; in io_wq_dec_running() local
433 static void __io_worker_busy(struct io_wq *wq, struct io_worker *worker) in __io_worker_busy()
446 static void __io_worker_idle(struct io_wq *wq, struct io_worker *worker) in __io_worker_idle()
465 static bool io_wait_on_hash(struct io_wq *wq, unsigned int hash) in io_wait_on_hash()
489 struct io_wq *wq = worker->wq; in io_get_next_work() local
561 struct io_wq *wq = worker->wq; in io_worker_handle_work() local
645 struct io_wq *wq = worker->wq; in io_wq_worker() local
741 static void io_init_new_worker(struct io_wq *wq, struct io_worker *worker, in io_init_new_worker()
799 struct io_wq *wq; in create_worker_cont() local
847 static bool create_io_worker(struct io_wq *wq, int index) in create_io_worker()
892 static bool io_wq_for_each_worker(struct io_wq *wq, in io_wq_for_each_worker()
920 static void io_run_cancel(struct io_wq_work *work, struct io_wq *wq) in io_run_cancel()
929 static void io_wq_insert_work(struct io_wq *wq, struct io_wq_acct *acct, in io_wq_insert_work()
955 void io_wq_enqueue(struct io_wq *wq, struct io_wq_work *work) in io_wq_enqueue()
1046 static inline void io_wq_remove_pending(struct io_wq *wq, in io_wq_remove_pending()
1065 static bool io_acct_cancel_pending_work(struct io_wq *wq, in io_acct_cancel_pending_work()
1089 static void io_wq_cancel_pending_work(struct io_wq *wq, in io_wq_cancel_pending_work()
1105 static void io_wq_cancel_running_work(struct io_wq *wq, in io_wq_cancel_running_work()
1113 enum io_wq_cancel io_wq_cancel_cb(struct io_wq *wq, work_cancel_fn *cancel, in io_wq_cancel_cb()
1155 struct io_wq *wq = container_of(wait, struct io_wq, wait); in io_wq_hash_wake() local
1174 struct io_wq *wq; in io_wq_create() local
1238 void io_wq_exit_start(struct io_wq *wq) in io_wq_exit_start()
1243 static void io_wq_cancel_tw_create(struct io_wq *wq) in io_wq_cancel_tw_create()
1261 static void io_wq_exit_workers(struct io_wq *wq) in io_wq_exit_workers()
1282 static void io_wq_destroy(struct io_wq *wq) in io_wq_destroy()
1296 void io_wq_put_and_exit(struct io_wq *wq) in io_wq_put_and_exit()
1320 static int __io_wq_cpu_online(struct io_wq *wq, unsigned int cpu, bool online) in __io_wq_cpu_online()
1335 struct io_wq *wq = hlist_entry_safe(node, struct io_wq, cpuhp_node); in io_wq_cpu_online() local
1342 struct io_wq *wq = hlist_entry_safe(node, struct io_wq, cpuhp_node); in io_wq_cpu_offline() local
1378 int io_wq_max_workers(struct io_wq *wq, int *new_count) in io_wq_max_workers()