这个需求来自于我最近练手的一个项目，在项目中我需要将一些自己发表的和收藏整理的网文集中到一个地方存放，如果全部采用手工操作工作量大而且繁琐，因此周公决定利用C#来实现。在很多地方都需要验证用户身份才可以进行下一步操作，这就免不了POST请求来登录，在实际过程中发现有些网站登录是HTTPS形式的，在解决过程中遇到了一些小问题，现在跟大家分享。 通用辅助类 下面是我编写的一个辅助类，在这个类中采用了HttpWebRequest中发送GET/HTTP/HTTPS请求，因为有的时候需要获取认证信息（如Cookie），所以返回的是HttpWebResponse对象，有了返回的HttpWebResponse实例，可以获取登录过程中返回的会话信息，也可以获取响应流。 代码如下：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 |
using System; using System.Collections.Generic; using System.Linq; using System.Text; using System.Net.Security; using System.Security.Cryptography.X509Certificates; using System.DirectoryServices.Protocols; using System.ServiceModel.Security; using System.Net; using System.IO; using System.IO.Compression; using System.Text.RegularExpressions; namespace BaiduCang { /// <summary> /// 有关HTTP请求的辅助类 /// </summary> public class HttpWebResponseUtility { private static readonly string DefaultUserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; SV1; .NET CLR 1.1.4322; .NET CLR 2.0.50727)"; /// <summary> /// 创建GET方式的HTTP请求 /// </summary> /// <param name="url">请求的URL</param> /// <param name="timeout">请求的超时时间</param> /// <param name="userAgent">请求的客户端浏览器信息，可以为空</param> /// <param name="cookies">随同HTTP请求发送的Cookie信息，如果不需要身份验证可以为空</param> /// <returns></returns> public static HttpWebResponse CreateGetHttpResponse(string url,int? timeout, string userAgent,CookieCollection cookies) { if (string.IsNullOrEmpty(url)) { throw new ArgumentNullException("url"); } HttpWebRequest request = WebRequest.Create(url) as HttpWebRequest; request.Method = "GET"; request.UserAgent = DefaultUserAgent; if (!string.IsNullOrEmpty(userAgent)) { request.UserAgent = userAgent; } if (timeout.HasValue) { request.Timeout = timeout.Value; } if (cookies != null) { request.CookieContainer = new CookieContainer(); request.CookieContainer.Add(cookies); } return request.GetResponse() as HttpWebResponse; } /// <summary> /// 创建POST方式的HTTP请求 /// </summary> /// <param name="url">请求的URL</param> /// <param name="parameters">随同请求POST的参数名称及参数值字典</param> /// <param name="timeout">请求的超时时间</param> /// <param name="userAgent">请求的客户端浏览器信息，可以为空</param> /// <param name="requestEncoding">发送HTTP请求时所用的编码</param> /// <param name="cookies">随同HTTP请求发送的Cookie信息，如果不需要身份验证可以为空</param> /// <returns></returns> public static HttpWebResponse CreatePostHttpResponse(string url,IDictionary<string,string> parameters,int? timeout, string userAgent,Encoding requestEncoding,CookieCollection cookies) { if (string.IsNullOrEmpty(url)) { throw new ArgumentNullException("url"); } if(requestEncoding==null) { throw new ArgumentNullException("requestEncoding"); } HttpWebRequest request=null; //如果是发送HTTPS请求 if(url.StartsWith("https",StringComparison.OrdinalIgnoreCase)) { ServicePointManager.ServerCertificateValidationCallback = new RemoteCertificateValidationCallback(CheckValidationResult); request = WebRequest.Create(url) as HttpWebRequest; request.ProtocolVersion=HttpVersion.Version10; } else { request = WebRequest.Create(url) as HttpWebRequest; } request.Method = "POST"; request.ContentType = "application/x-www-form-urlencoded"; if (!string.IsNullOrEmpty(userAgent)) { request.UserAgent = userAgent; } else { request.UserAgent = DefaultUserAgent; } if (timeout.HasValue) { request.Timeout = timeout.Value; } if (cookies != null) { request.CookieContainer = new CookieContainer(); request.CookieContainer.Add(cookies); } //如果需要POST数据 if(!(parameters==null||parameters.Count==0)) { StringBuilder buffer = new StringBuilder(); int i = 0; foreach (string key in parameters.Keys) { if (i > 0) { buffer.AppendFormat("&{0}={1}", key, parameters[key]); } else { buffer.AppendFormat("{0}={1}", key, parameters[key]); } i++; } byte[] data = requestEncoding.GetBytes(buffer.ToString()); using (Stream stream = request.GetRequestStream()) { stream.Write(data, 0, data.Length); } } return request.GetResponse() as HttpWebResponse; } private static bool CheckValidationResult(object sender, X509Certificate certificate, X509Chain chain, SslPolicyErrors errors) { return true; //总是接受 } } } |
从上面的代码中可以看出POST数据到HTTP和HTTPS站点不同，POST数据到HTTPS站点的时候需要设置ServicePointManager类的ServerCertificateValidationCallback属性，并且在POST到https://passport.baidu.com/?login时还需要将HttpWebResquest实例的ProtocolVersion属性设置为HttpVersion.Version10（这个未验证是否所有的HTTPS站点都需要设置），否则在调用GetResponse()方法时会抛出“基础连接已经关闭: 连接被意外关闭。”的异常。 用法举例 这个类用起来也很简单： （1）POST数据到HTTPS站点，用它来登录百度：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 |
string loginUrl = "https://passport.baidu.com/?login"; string userName = "userName"; string password = "password"; string tagUrl = "http://cang.baidu.com/"+userName+"/tags"; Encoding encoding = Encoding.GetEncoding("gb2312"); IDictionary<string, string> parameters = new Dictionary<string, string>(); parameters.Add("tpl", "fa"); parameters.Add("tpl_reg", "fa"); parameters.Add("u", tagUrl); parameters.Add("psp_tt", "0"); parameters.Add("username", userName); parameters.Add("password", password); parameters.Add("mem_pass", "1"); HttpWebResponse response = HttpWebResponseUtility.CreatePostHttpResponse(loginUrl, parameters, null, null, encoding, null); string cookieString = response.Headers["Set-Cookie"]; |
（2）发送GET请求到HTTP站点 在cookieString中包含了服务器端返回的会话信息数据，从中提取了之后可以设置Cookie下次登录时带上这个Cookie就可以以认证用户的信息，假设我们已经登录成功并且获取了Cookie，那么发送GET请求的代码如下：
|
1 2 3 4 |
string userName = "userName"; string tagUrl = "http://cang.baidu.com/"+userName+"/tags"; CookieCollection cookies = new CookieCollection();//如何从response.Headers["Set-Cookie"];中获取并设置CookieCollection的代码略 response = HttpWebResponseUtility.CreateGetHttpResponse(tagUrl, null, null, cookies); |
(3)发送POST请求到HTTP站点 以登录51CTO为例：
|
1 2 3 4 5 6 7 8 9 |
string loginUrl = "http://home.51cto.com/index.php?s=/Index/doLogin"; string userName = "userName"; string password = "password"; IDictionary<string, string> parameters = new Dictionary<string, string>(); parameters.Add("email", userName); parameters.Add("passwd", password); HttpWebResponse response = HttpWebResponseUtility.CreatePostHttpResponse(loginUrl, parameters, null, null, Encoding.UTF8, null); |
在这里说句题外话，CSDN的登录处理是由http://passport.csdn.net/ajax/accounthandler.ashx这个Handler来处理的。 总结 在本文只是讲解了在C#中发送请求到HTTP和HTTPS的用法，分GET/POST两种方式，为减少一些繁琐和机械的编码，周公将其封装为一个类，发送数据之后返回HttpWebResponse对象实例，利用这个实例我们可以获取服务器端返回的Cookie以便用认证用户的身份继续发送请求，或者读取服务器端响应的内容，不过在读取响应内容时要注意响应格式和编码，本来在这个类中还有读取HTML和WML内容的方法（包括服务器使用压缩方式传输的数据），但限于篇幅和其它方面的原因，此处省略掉了。如有机会，在以后的文章中会继续讲述这方面的内容。 from:http://www.cnblogs.com/youfeng365/p/6138944.html
View Detailsvar dateTimeStart = new DateTime(1970, 1, 1, 8, 0, 0); var milliseconds = DateTime.Now.Subtract(dateTimeStart).TotalMilliseconds;
View Details1、错误号401.1 症状：HTTP 错误 401.1 – 未经授权：访问由于凭据无效被拒绝。 分析： 由于用户匿名访问使用的账号(默认是IUSR_机器名)被禁用，或者没有权限访问计算机，将造成用户无法访问。 解决方案： （1）查看IIS管理器中站点安全设置的匿名帐户是否被禁用，如果是，请尝试用以下办法启用： 控制面板->管理工具->计算机管理->本地用户和组，将IUSR_机器名账号启用。如果还没有解决，请继续下一步。 （2）查看本地安全策略中，IIS管理器中站点的默认匿名访问帐号或者其所属的组是否有通过网络访问服务器的权限，如果没有尝试用以下步骤赋予权限： 开始->程序->管理工具->本地安全策略->安全策略->本地策略->用户权限分配，双击“从网络访问此计算机”，添加IIS默认用户或者其所属的组。 注意：一般自定义 IIS默认匿名访问帐号都属于组，为了安全，没有特殊需要，请遵循此规则。 2、错误号401.2 症状：HTTP 错误 401.2 – 未经授权：访问由于服务器配置被拒绝。 原因：关闭了匿名身份验证 解决方案： 运行inetmgr，打开站点属性->目录安全性->身份验证和访问控制->选中“启用匿名访问”，输入用户名，或者点击“浏览”选择合法的用户，并两次输入密码后确定。 3、错误号：401.3 症状：HTTP 错误 401.3 – 未经授权：访问由于 ACL 对所请求资源的设置被拒绝。 原因：IIS匿名用户一般属于Guests组，而我们一般把存放网站的硬盘的权限只分配给administrators组，这时候按照继承原则，网站文件夹也只有administrators组的成员才能访问，导致IIS匿名用户访问该文件的NTFS权限不足，从而导致页面无法访问。 解决方案： 给IIS匿名用户访问网站文件夹的权限，方法：进入该文件夹的安全选项，添加IIS匿名用户，并赋予相应权限，一般是读、写。 4、C#开发程序出现问题 在System.Net中提供了一个NetworkCredential，通过它我们可以在网络中提供一个凭证，只有获得该凭证的用户才能访问相应的服务的权限。在这里我们也使用NetworkCredential。
|
1 2 3 4 5 6 |
HttpWebRequest req = (HttpWebRequest)WebRequest<span class="hljs-preprocessor">.Create</span>(url)<span class="hljs-comment">;</span> NetworkCredential d = new NetworkCredential(<span class="hljs-string">"USERNAME"</span>, <span class="hljs-string">"PASSWORD"</span>)<span class="hljs-comment">;//添加此代码</span> req<span class="hljs-preprocessor">.Credentials</span> = d<span class="hljs-comment">;</span> HttpWebResponse resp = (HttpWebResponse)req<span class="hljs-preprocessor">.GetResponse</span>()<span class="hljs-comment">;</span> |
在webconfig配置web代理，使用httpweb请求的时候不需要设置proxy属性。
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 |
<span class="hljs-tag"><<span class="hljs-title">system.net</span>></span> <span class="hljs-comment"><!--使用Web代理的设置--></span> <span class="hljs-comment"><!--usesystemdefault指定是否使用 Internet Explorer 代理设置。 如果设置为 true，则后面的特性将重写 Internet Explorer 代理设置。 默认值为 unspecified。--></span> <span class="hljs-tag"><<span class="hljs-title">defaultProxy</span>></span> <span class="hljs-tag"><<span class="hljs-title">proxy </span> <span class="hljs-attribute">usesystemdefault</span>=<span class="hljs-value">"True"</span> <span class="hljs-attribute">proxyaddress</span>=<span class="hljs-value">"http://172.27.1.191:80"</span> <span class="hljs-attribute">bypassonlocal</span>=<span class="hljs-value">"True"</span> /></span> <span class="hljs-tag"><<span class="hljs-title">bypasslist</span>></span> <span class="hljs-tag"><<span class="hljs-title">add</span> <span class="hljs-attribute">address</span>=<span class="hljs-value">"172\.27\.\d{1,3}\.\d{1,3}"</span> /></span> <span class="hljs-tag"></<span class="hljs-title">bypasslist</span>></span> <span class="hljs-tag"></<span class="hljs-title">defaultProxy</span>></span> <span class="hljs-tag"></<span class="hljs-title">system.net</span>> </span> |
http://blog.csdn.net/mang_liu/article/details/7708864
View DetailsPython 由于本身的易用优势和强大的工具库储备，成为了在人工智能及其它相关科学领域中最常用的语言之一。尤其是在机器学习，已然是各大项目最偏爱的语言。 其实除了 Python ，也不乏有开发者用其他语言写出优秀的机器学习项目。在此，列出其中一些个人认为值得关注的开源机器学习项目。由于篇幅有限，考虑分多期整理。 1、C Darknet —— 神经网络框架 Darknet 是一个用 C 和 CUDA 编写的开源神经网络框架。它快速，易于安装，并支持 CPU 和 GPU计算。 CCV —— 计算机视觉库 CCV 是 C-based/Cached/Core Computer Vision Library 的简称, 它是一个现代的计算机视觉库。 CCV 是一种以应用驱动的算法库，比如对静态物体（如人脸）的快速检测算法、对某些不容易定位物体（如猫）的准确检测算法、艺术文本的检测算法、长期目标的跟踪算法和特征点检测算法。 2、C++ CNTK —— 深度学习工具包 微软出品的开源深度学习工具包，它把神经网络描述成一个有向图的结构，叶子节点代表输入或者网络参数，其他节点计算步骤。 CNTK 不仅使深度神经网络（DNN）、卷积神经网络（CNN）、循环神经网络（RNN）和长短时记忆单元（LSTM）的实现变得非常容易，还支持多个 GPU 组合、服务器自动分化和并行的随机梯度下降（SGD）学习。 Caffe —— 深度学习框架 Caffe 是一个清晰而又高效的深度学习框架，模型与相应优化都是以文本形式而非代码形式给出，并给出了模型的定义、最优化设置以及预训练的权重，方便立即上手。同时，它能够运行最棒的模型与海量的数据，也能很方便扩展到新的任务和设置上。 Kaldi —— 语音识别工具包 Kaldi 是用 C ++ 编写的语言识别工具包，旨在供语音识别研究人员使用，且易于修改和扩展。它在设计之初就尽可能地以最通用的形式提供的算法，以保证其可扩展性。 3、Go CloudForest —— 决策树组合算法 纯 Go 编写的快速、灵活、多线程的决策树，允许一些相关的算法用于具有缺失值的异构数据的分类、回归、特征选择和结构分析。它可以实现更快的训练时间，非常适合现代处理器来学习二进制。 4、Java CoreNLP —— 自然语言处理工具 coreNLP 是斯坦福大学开发的一套关于自然语言处理的工具，使用简单功能强大。它可以通过输入原始文本，给出单词的基本形式，它们的词性、公司、人员的名称、解释日期、时间和数量等等。它最初针对英语开发，但现在也已支持中文。 H2O —— 机器学习和预测分析框架 H2O 是一个分布式的、基于内存的、可扩展的机器学习和预测分析框架，适合在企业环境中构建大规模机器学习模型。它使用开发者熟悉的界面，可与 Hadoop 和 Spark 等大型数据技术无缝工作。它也提供许多流行算法的实现，例如 GBM、Random Forest、Deep Neural Networks、Word2Vec 等。 Deeplearning4J —— 分布式神经网络库 Deeplearning4J 是一个使用 Java 和 Scala 编写的分布式神经网络库，集成了 Hadoop 和 Spark ，设计用于运行在分布式 GPU 和 CPU 上的商业环境。它即插即用，方便开发者在 APP 中快速集成深度学习功能 Deeplearning4j 包括了分布式、多线程的深度学习框架，以及普通的单线程深度学习框架。 5、Javascript […]
View Details这几天写个小功能，在多线程里用到EF，程序第一次启动总是记录到几个错误。 如果在多线程外访问一次数据库就没有问题，真是让人无奈啊~ 另外还发现log4net的实例化必须写在其他实例的前面，否则在控制台程序下不显示日志~~
View Details一. 为什么要lock，lock了什么？ 当我们使用线程的时候，效率最高的方式当然是异步，即各个线程同时运行，其间不相互依赖和等待。但当不同的线程都需要访问某个资源的时候，就需要同步机制了，也就是说当对同一个资源进行读写的时候，我们要使该资源在同一时刻只能被一个线程操作，以确保每个操作都是有效即时的，也即保证其操作的原子性。lock是C#中最常用的同步方式，格式为lock(objectA){codeB} 。 lock(objectA){codeB} 看似简单，实际上有三个意思，这对于适当地使用它至关重要： 1. objectA被lock了吗？没有则由我来lock，否则一直等待，直至objectA被释放。 2. lock以后在执行codeB的期间其他线程不能调用codeB，也不能使用objectA。 3. 执行完codeB之后释放objectA，并且codeB可以被其他线程访问。 二. lock(this)怎么了？ 我们看一个例子： using System; using System.Threading; namespace Namespace1 { class C1 { private bool deadlocked = true; //这个方法用到了lock，我们希望lock的代码在同一时刻只能由一个线程访问 public void LockMe(object o) { lock (this) { while(deadlocked) […]
View Detailspublic partial class _Default2 : System.Web.UI.Page{ protected void Page_Load(object sender, EventArgs e) { } protected void Button1_Click(object sender, EventArgs e) { string Path = "c:\\de"; string resultPath = string.Empty; bool rel =false; TimeSpan nowTimeSpan=new TimeSpan(); resultPath=YaSuo(out rel, out nowTimeSpan); ResponseFile(resultPath); } /// <summary> /// 压缩文件 /// </summary> /// <returns>返回压缩后的路径</returns> public string YaSuo(out bool bo, out TimeSpan times) { string rarurlPath = string.Empty; bo = false; //压缩文件 string yasuoPathSave = "c:\\de\\TZ.rar"; string yasuoPath = "c:\\de\\temp"; System.Diagnostics.Process pro = new System.Diagnostics.Process(); pro.StartInfo.FileName = @"C:\Program Files\WinRAR\WinRAR.exe";//WinRAR所在路径 //pro.StartInfo.Arguments = "a " + […]
View Details中文转Unicode：HttpUtility.UrlEncodeUnicode(string str); 转换后中文格式："%uxxxx" 举例："柳_abc123" 转换结果是："%u67f3_abc123" Unicode转中文1：HttpUtility.UrlDecode(string str); str格式："%uxxxx" ，举例："%u67f3_abc123" Unicode转中文2：Regex.Unescape(string str); str格式："\uxxxx" ，举例："\u67f3_abc123" ================================ 符合js规则的转换 /// <summary> /// 中文转unicode（符合js规则的） /// </summary> /// <returns></returns> public static string unicode_js_0(string str) { string outStr = ""; string a = ""; if (!string.IsNullOrEmpty(str)) { […]
View DetailsEntity Framework(EF)的开发模式有多少种呢?有的说是三种，有的说是四种，到底哪个对呢? 先看下图: 再看这张: 那么明显开发模式是三种。 即:DateBase First(数据库优先)、Model First(模型优先)和Code First(代码优先)。 当然，如果把Code First模式的两种具体方式独立出来，那就是四种了。 Code First(New DataBase) :在代码中定义类和映射关系并通过model生成数据库，使用迁移技术更新数据库。 Code First(Existing DataBase):在代码中定义类和映射关系，给逆向工程提供工具。 Model First:在设计器中创建Model，并用Model生成数据库。所有的类由Model自动生成。 DateBase First:在设计器中逆向生成Model，并有Model自动生成所有的类。 from:http://www.cnblogs.com/jihua/archive/2013/05/23/efmoshi.html
View Details本文档仅介绍如何安装iWshop并且完成微信公众号对接，其他微信认证、微信支付等申请可以参考: 百度经验 微信认证申请、微信支付申请 iWshop 交流群:470442221 iWshop 类文档:http://docs.ycchen.cc/iwshop/index.html 一、准备工作 服务器环境要求 PHP5.3+ MySQL 5.5.3+ (utf8mb4编码用于保存带有emoji表情的微信用户昵称) PHP扩展:php_mysql php_curl php_pdo_mysql php_mcrypt php_gd2 请确保您的php.ini配置中magic_quotes_gpc为Off，否则某些功能可能无法使用 如果需要redis，请加载php_redis扩展 iWshop是以UrlQuery的形式组合参数的，所以不需要伪静态模块。 开始安装iWshop http://git.oschina.net/koodo/iWshop/releases 现在以安装目录F:\dev_project\test_iwshop为例进行安装，我的httpd-vhosts.conf其中的一个设置是这样的。关于如何使用apache的vhosts可以参考:Apache官方示例 1 2 3 4 5 6 7 8 9 10 <VirtualHost *:80> DocumentRoot "F:\dev_project\test_iwshop" ServerName test.iw.com <Directory "F:\dev_project\test_iwshop"> AllowOverride All Options FollowSymLinks Order allow,deny Allow from all </Directory> </VirtualHost> 当然你也可以直接放服务器根目录。 然后在浏览器中打开localhost，或者vhosts指向的域名。 填写微店名称(可以在后台修改)，数据库密码，后台管理员账号密码(可以在后台修改)，然后点击下一步。 这里特别说明一下系统根目录，如果是在DocumentRoot的根目录下安装，那么就是 / ，如果是在某个子目录比如/iw/，那么这里就要填写 /iw/ ，一般情况下都会自动获取，无需填写，如果遇到css或者js等静态文件无法加载页面错乱的问题，请检查config.php里面的docroot选项。 点击马上安装，如果数据库版本和php环境没有什么配置问题的话，就安装成功了。 假设服务器域名是:www.iwshop.cn，那么你的: 后台地址:http://www.iwshop.cn/?/Wdmin/login/ 微信消息接口地址:http://www.iwshop.cn/wechat/ 二、微信对接 // todo 三、bug反馈 http://git.oschina.net/koodo/iWshop/issues iWshop 交流群:470442221 作者邮箱 koodo@qq.com from:http://git.oschina.net/koodo/iWshop/blob/dev/html/docs/install.md
View Details