1. Session
1.1 用法1
import tensorflow as tf
a=tf.constant([10.1,2.0],name='a')
b=tf.constant([1.0,2.1],name='b')
sess.run(a+b)
sess.close() # 关闭 session， 释放资源
1.2 用法2
with tf.Session() as sess:
sess.run(a+b)
# 无需调用sess.close()，而是运行完毕后自动释放资源
1.3 用法3
sess=tf.Session()
result=a+b
with sess.as_default():
print(result.eval())
等价写法
sess=tf.Session()
result.eval(session=sess)
1.4 InteractiveSession
注册为默认Session，以后的运算会默认在这个session中运行
sess=tf.InteractiveSession()
2. config
config=tf.ConfigProto(allow_soft_placement=True, # 优先使用GPU，GPU不支持的时候换成CPU，而不是报错
log_device_placement=True) #记录节点分配日志，生产环境下可以设定为False以减小日志量
sess1=tf.InteractiveSession(config=config)
sess2=tf.Session(config=config)
3. 三大常用数据结构
- constant
- Variable (记得initialize)
- placeholder （记得在sess.run中，用feed_dict传入数据）
3.1 constant
随机变量
tf.random_normal(shape=(3,2),mean=0.0,stddev=1.0,dtype=tf.float32) # 正态分布
b=tf.truncated_normal(shape=(3,2),mean=0.0,stddev=1.0,dtype=tf.float32) # 正态分布，如果离差超过2标准差，则重新随机
tf.random_uniform(shape=(3,2),minval=0.0,maxval=1.0,dtype=tf.float32) # 均匀分布
tf.random_gamma(shape=(3,2),alpha=1,beta=2,dtype=tf.float32) # Gamma分布
tf.random_shuffle(value, seed=None, name=None)
tf.random_crop(value, size, seed=None, name=None)
tf.multinomial(logits, num_samples, seed=None, name=None)
tf.random_gamma(shape, alpha, beta=None, dtype=tf.float32, seed=None, name=None)
tf.set_random_seed(seed)
常数：
tf.zeros(shape=[1,2])
tf.ones
tf.fill(dims=(2,3),value=9)#生成一个2*3矩阵，并用9填充
a=tf.constant([1,2,4])
tf.zeros_like(a, dtype=tf.float32, name=None)
tf.ones_like(a, dtype=tf.float32, name=None)
tf.linspace(start=0.0,stop=1.0,num=5) # 含头含尾，num个
3.2 Variable
import math
# 参数初始化
# 均值0，方差1的正态随机数：
weights=tf.Variable(tf.truncated_normal([3,2],stddev=1),name='weights')
#正态随机数除以神经元的个数
weights=tf.Variable(tf.truncated_normal([500,25],stddev=1/math.sqrt(500)),name='weights')
另一种写法，区别是，如果变量存在，则会报错。用 tf.Variable 则是覆盖：
W1 = tf.get_variable(name='W1',shape=[4, 4, 3, 8],initializer=tf.contrib.layers.xavier_initializer(seed = 0))
# 常用initializer:
tf.constant_initializer(value=0, dtype=tf.float32)
tf.random_normal_initializer(mean=0.0, stddev=1.0, seed=None, dtype=tf.float32)
tf.truncated_normal_initializer(mean=0.0, stddev=1.0, seed=None, dtype=tf.float32)
tf.random_uniform_initializer(minval=0, maxval=None, seed=None, dtype=tf.float32)
tf.uniform_unit_scaling_initializer(factor=1.0, seed=None, dtype=tf.float32)
tf.zeros_initializer(shape, dtype=tf.float32, partition_info=None)
tf.ones_initializer(dtype=tf.float32, partition_info=None)
tf.orthogonal_initializer(gain=1.0, dtype=tf.float32, seed=None)
Variable 的初始化
tf.Variable数据类型一定要 initialize 之后才可以参与sess.run()
（对比，constant和placeholder不需要初始化便可以放入到sess.run()）
- w.initializer初始化单个Variable
sess.run(w2.initializer) sess.run(w3.initializer) sess.run(w2+w3) - 也可以用global_variables_initializer()初始化所有变量
init=tf.global_variables_initializer() sess.run(init) sess.run(w4+w5) - global_variables_initializer的另一种写法
tf.global_variables_initializer().run(session=sess) sess.run(w4+w5)
一个案例
state=tf.Variable(0,name='counter')
one=tf.constant(1)
new_value=tf.add(state,one)
update=tf.assign(state,new_value)
sess.run(tf.global_variables_initializer())
for i in range(3):
sess.run(update)
print(sess.run(state))
3.3 placeholder占位
定义一个位置，这个位置的数据在运行时才指定
from scipy.stats import norm
rv=norm()
x=tf.placeholder(shape=(None,6),dtype=tf.float32)
m=tf.random_normal(shape=(6,2))
y=tf.matmul(x,m)
sess.run(tf.global_variables_initializer())
sess.run(y,feed_dict={x:rv.rvs(size=(3,6))}) #使用 feed_dict 指定placeholder
参考文献
《Matlab神经网络原理与实例精解》陈明，清华大学出版社
《神经网络43个案例》王小川，北京航空航天大学出版社
《人工神经网络原理》马锐，机械工业出版社
白话深度学习与TensorFlow，高扬，机械工业出版社
《TensorFlow实战Google深度学习框架》，郑泽宇，中国工信出版集团
