EffectiveModernCppChinese/7.TheConcurrencyAPI/item36.md
2021-01-21 11:24:36 +08:00

6.6 KiB
Raw Blame History

Item 36:Specify std::launch::async if asynchronicity is essential

Item36 确保在异步为必须时,才指定std::launch::async

当你调用std::async执行函数时(或者其他可调用对象),你通常希望异步执行函数。但是这并不一定是你想要std::async执行的操作。你确实通过std::asynclaunch policy译者注这里没有翻译要求执行函数有两种标准policy都通过std::launch域的枚举类型表示参见Item10关于枚举的更多细节。假定一个函数f传给std::async来执行:

  • std::launch::async的launch policy意味着f必须异步执行即在不同的线程
  • std::launch::deferred的launch policy意味着f仅仅在当调用get或者wait要求std::async的返回值时才执行。这表示f推迟到被求值才延迟执行译者注异步与并发是两个不同概念这里侧重于惰性求值。当get或wait被调用f会同步执行即调用方停止直到f运行结束。如果get和wait都没有被调用f将不会被执行

有趣的是,std::async的默认launch policy是以上两种都不是。相反是求或在一起的。下面的两种调用含义相同

auto fut1 = std::async(f); // run f using default launch policy
auto fut2 = std::async(std::launch::async | std::launch::deferred, f); // run f either async or defered

因此默认策略允许f异步或者同步执行。如同Item 35中指出这种灵活性允许std::async和标准库的线程管理组件(负责线程的创建或销毁)避免超载。这就是使用std::async并发编程如此方便的原因。

但是,使用默认启动策略的std::async也有一些有趣的影响。给定一个线程t执行此语句

auto fut = std::async(f); // run f using default launch policy
  • 无法预测f是否会与t同时运行因为f可能被安排延迟运行
  • 无法预测f是否会在调用get或wait的线程上执行。如果那个线程是t含义就是无法预测f是否也在线程t上执行
  • 无法预测f是否执行因为不能确保get或者wait会被调用

默认启动策略的调度灵活性导致使用线程本地变量比较麻烦因为这意味着如果f读写了线程本地存储thread-local storage, TLS不可能预测到哪个线程的本地变量被访问

auto fut = std::async(f); // TLS for f possibly for independent thread, but possibly for thread invoking get or wait on fut

还会影响到基于超时机制的wait循环因为在task的wait_for或者wait_until调用中参见Item 35会产生延迟求值std::launch::deferred)。意味着,以下循环看似应该终止,但是实际上永远运行:

using namespace std::literals; // for C++14 duration suffixes; see Item 34
void f()
{
  std::this_thread::sleep_for(1s);
}

auto fut = std::async(f);
while (fut.wait_for(100ms) != std::future_status::ready) 
{ // loop until f has finished running... which may never happen!
  ...
}

如果f与调用std::async的线程同时运行如果为f选择的启动策略是std::launch::async这里没有问题假定f最终执行完毕但是如果f是延迟执行fut.wait_for将总是返回std::future_status::deferred。这表示循环会永远执行下去。

这种错误很容易在开发和单元测试中忽略,因为它可能在负载过高时才能显现出来。当机器负载过重时,任务推迟执行才最有可能发生。毕竟,如果硬件没有超载,没有理由不安排任务并发执行。

修复也是很简单的:只需要检查与std::async的future是否被延迟执行即可那样就会避免进入无限循环。不幸的是没有直接的方法来查看future是否被延迟执行。相反你必须调用一个超时函数----比如wait_for这种函数。在这个逻辑中,你不想等待任何事,只想查看返回值是否std::future_status::deferred如果是就使用0调用wait_for来终止循环。

auto fut = std::async(f);
if (fut.wait_for(0s) == std::future_status::deferred) { // if task is deferred
  ... // use wait or get on fut to call f synchronously
}
else { // task isn't deferred
  while(fut.wait_for(100ms) != std::future_status::ready) { // infinite loop not possible(assuming f finished)
    ... // task is neither deferred nor ready, so do concurrent word until it's ready
  }
}

这些各种考虑的结果就是,只要满足以下条件,std::async的默认启动策略就可以使用:

  • task不需要和执行get or wait的线程并行执行
  • 不会读写线程的线程本地变量
  • 可以保证在std::async返回的将来会调用get or wait,或者该任务可能永远不会执行是可以接受的
  • 使用wait_for or wait_until编码时考虑deferred状态

如果上述条件任何一个都满足不了,你可能想要保证std::async的任务真正的异步执行。进行此操作的方法是调用时,将std::launch::async作为第一个参数传递:

auto fut = std::async(std::launch::async, f); // launch f asynchronously

事实上,具有类似std::async行为的函数,但是会自动使用std::launch::async作为启动策略的工具也是很容易编写的C++11版本如下

template<typename F, typename... Ts>
inline
std::future<typename std::result_of<F(Ts...)>::type>
reallyAsync(F&& f, Ts&&... params)
{
  return std::async(std::launch::async, std::forward<F>(f), std::forward<Ts>(params)...);
}

这个函数接受一个可调用对象和0或多个参数params然后完美转发参见Item25std::async,使用std::launch::async作为启动参数。就像std::async一样,返回std::future类型。确定结果的类型很容易,因为类型特征std::result_of可以提供参见Item 9 关于类型特征的详细表述)。

reallyAsync就像std::async一样使用:

auto fut = reallyAsync(f); 

在C++14中返回类型的推导能力可以简化函数的定义

template<typename f, typename... Ts>
inline 
auto 
reallyAsync(F&& f, Ts&&... params)
{
  return std::async(std::launch::async, std::forward<T>(f), std::forward<Ts>(params)...);
}

这个版本清楚表明,reallyAsync除了使用std::launch::async启动策略之外什么也没有做。

需要记住的事

  • std::async的默认启动策略是异步或者同步的
  • 灵活性导致访问thread_locals的不确定性隐含了task可能不会被执行的意思会影响程序基于wait的超时逻辑
  • 只有确实异步时才指定std::launch::async